ББД остаются очень серьезными. Я считаю реалистичным начать осуществление этой программы с минимального уровня и постепенно расширять ее. Прежде чем реализовать ее в масштабах всей страны, нужно накопить больше данных и реального опыта выплат ББД. Необходим экспериментальный поиск оптимальных параметров этой программы. Я надеюсь, что когда-нибудь будет проверена и моя идея встроенных стимулов. Данные, собранные в ходе экспериментов с ББД, позволят создать программу, способную эффективно масштабироваться и обеспечивать массовое благополучие граждан в будущем, все в большей степени определяемого искусственным интеллектом.

Обусловленная новыми технологиями безработица и растущее неравенство лишь одна из серьезных причин обеспокоенности, сопутствующей развитию ИИ. Следующие две главы посвящены целому ряду других опасностей, которые уже становятся очевидными или могут проявиться в дальнейшем в результате совершенствования высоких технологий.

Глава 7

Китай и появление государства тотального ИИ-надзора

Синьцзян-Уйгурский автономный район расположен на северо-западе Китая. Его огромная территория, примерно в два с половиной раза превышающая площадь штата Техас, граничит с семью странами: Монголией на северо-востоке, Россией на севере, Казахстаном, Кыргызстаном, Таджикистаном, Афганистаном, Пакистаном и Индией на западе. Здесь суровый климат и негостеприимный пейзаж с преобладанием скалистых гор и пустынь, среди которых разбросаны города, вобравшие в себя бо́льшую часть 24-миллионного населения района. Легендарный Великий шелковый путь — точнее, пути, поскольку он представлял собой сеть дорог, — когда-то пролегал через Синьцзян, что обеспечило этому региону главенство в торговле между Востоком и Западом, способствовавшей развитию цивилизаций во всей Евразии. Марко Поло совершил путешествие по этому пути в конце XIII века и увидел шумные базары и верблюдов с поклажей, похожих на тех, что и сегодня можно встретить в Синьцзяне.

В наши дни Синьцзян оказался в центре внимания не благодаря своей богатой истории, а потому, что крупнейшая этническая группа этого региона, уйгуры, угодила в оруэлловскую антиутопию. В таких городах, как Кашгар, Китай устроил тотальную слежку, сочетая многочисленные полицейские патрули, контрольно-пропускные пункты и передовые технологии. Практически за каждым жителем города ведется постоянное наблюдение: тысячи камер расположены на улицах, крышах зданий и столбах. Во время передвижения по городу жителей останавливают на контрольно-пропускных пунктах и позволяют продолжить путь лишь после идентификации системами распознавания лиц[242].

Синьцзян не только эпицентр слежки за гражданами. Это еще и полигон для испытания методов и технологий, которые постепенно распространяются на всю территорию страны. Предполагалось, что к 2020 году Китай установит почти 300 млн видеокамер, многие из которых будут подключены к системам распознавания лиц или используют другие методы слежения на основе ИИ, например идентификацию пешеходов по походке или характеру одежды.

Живущие в Синьцзяне уйгуры, нарушающие установленные правила или интересующиеся запрещенной идеологией, например читающие Коран, рискуют оказаться в одном из огромных «лагерей перевоспитания», созданных китайскими властями в этом регионе. В других областях страны руководство Китая тоже вознамерилось корректировать поведение с использованием всеобъемлющей системы социального рейтинга. Постепенно все больше аспектов жизни человека — покупки, поездки, пользование соцсетями и контакты с другими людьми — оказывается под наблюдением, фиксируется и анализируется. Затем на основе этой информации вычисляется общий социальный рейтинг каждого человека. Обладатели низкого рейтинга наказываются, например лишаются права пользования общественным транспортом или возможности записать своих детей в школу.

Эти процессы ускоряются вследствие стремительного превращения Китая в мирового лидера в сфере исследования и разработки искусственного интеллекта. По некоторым показателям, таким как число компьютерщиков и инженеров, работающих в этой области, и количество опубликованных научных статей, Китай уже обогнал Соединенные Штаты. Страна сделала развитие искусственного интеллекта приоритетной задачей и вкладывает в нее огромные деньги. Судя по всему, ее руководители не только привержены этой цели, но и хорошо ориентируются в вопросе. В начале 2018 года председатель КНР Си Цзиньпин обратился по телевидению к народу из своего кабинета на фоне полок с книгами об ИИ и машинном обучении[243]. Власти также участвуют в финансировании сотен стартапов, многие из которых оцениваются в миллиарды долларов и являются безусловными технологическими лидерами.

По мере превращения Китая в один из двух главных мировых центров исследований и разработок в области искусственного интеллекта, конкуренция между КНР и Соединенными Штатами и Западом в целом будет лишь усиливаться. Значительная доля формирующейся в Китае отрасли ИИ занимается распознаванием лиц и другими методами слежения, и занятые в ней компании находят заинтересованных клиентов не только в Китае, но и во всем мире. Как будет показано, не только авторитарные режимы пользуются технологиями слежения на основе ИИ. Так, распознавание лиц широко применяется в Соединенных Штатах и других демократических странах, что уже вызвало острые дебаты и обвинения в предвзятости и злоупотреблении властью. Эти вопросы чреваты серьезными проблемами, и ситуация станет усугубляться с ростом возможностей и распространением новых технологий, если, конечно, их использование не будет строго регулироваться.

Как китай вырвался на передний край исследований и разработок в сфере искусственного интеллекта

В июне 2018 года в Солт-Лейк-Сити, штат Юта, прошла значимая конференция, посвященная компьютерному зрению. За шесть лет после состязания ImageNet 2012 года эта область знания совершила огромный рывок, и теперь исследователи занялись решением намного более сложных проблем. Одним из самых ярких событий на конференции стал конкурс Robust Vision Challenge, проводившийся на средства ведущих компаний, в том числе Apple и Google. Команды из университетов и исследовательских лабораторий всего мира участвовали в серии соревнований, где требовалось продемонстрировать надежное распознавание визуальных образов в разных ситуациях, скажем при искусственном и естественном освещении или при разных погодных условиях[244]. Эта способность имеет принципиальное значение для беспилотных автомобилей и роботов, действующих в изменяющейся обстановке. Один из самых интересных этапов состязания был посвящен стереоскопическому машинному зрению — использованию двух видеокамер во многом подобно нашим глазам. Интерпретируя визуальную информацию, получаемую с разнесенных на небольшое расстояние точек обзора, наш мозг создает трехмерное представление наблюдаемой сцены. С помощью двух соответствующим образом размещенных камер алгоритм может делать нечто похожее[245].

К удивлению многих, победительницей оказалась группа исследователей Национального университета оборонных технологий из Китая. Университет был основан в 1953 году как центр подготовки инженерных кадров Народно-освободительной армии и получил множество национальных наград за исследования и инновации, особенно в области компьютерных наук. Согласно информации на его сайте, университет «опирается в своей образовательной деятельности на сформулированную [Коммунистической] партией новую теорию воспитания ее верных и квалифицированных сторонников»[246]. Это весьма яркое свидетельство того, что в Китае между исследованием ИИ в научных или коммерческих целях и политическими, военными и силовыми структурами существует в лучшем случае