не между демократиями и тоталитарными режимами, а между людьми и нечеловеческими агентами. Вместо того чтобы разделять демократии и тоталитарные режимы, новый кремниевый занавес может отделить всех людей от наших непостижимых алгоритмических повелителей. Люди во всех странах и слоях общества - включая даже диктаторов - могут оказаться в подчинении у инопланетного интеллекта, который может следить за всем, что мы делаем, а мы и понятия не имеем, что он делает. Остальная часть этой книги посвящена исследованию того, действительно ли на мир опускается такой кремниевый занавес и как может выглядеть жизнь, когда компьютеры управляют нашими бюрократиями, а алгоритмы придумывают новые мифологии.

 

ЧАСТЬ

II

.

Неорганическая сеть

ГЛАВА 6.

Новые члены: Чем компьютеры отличаются от печатных машин

 

Вряд ли можно назвать новостью тот факт, что мы живем в разгар беспрецедентной информационной революции. Но что это за революция? За последние годы на нас обрушилось столько революционных изобретений, что трудно определить, что именно является движущей силой этой революции. Интернет ли это? Смартфоны? Социальные сети? Блокчейн? Алгоритмы? ИИ?

Поэтому, прежде чем исследовать долгосрочные последствия нынешней информационной революции, давайте вспомним ее основы. Семя нынешней революции - это компьютер. Все остальное - от интернета до искусственного интеллекта - является побочным продуктом. Компьютер появился на свет в 1940-х годах как громоздкая электронная машина, способная производить математические расчеты, но он развивался с бешеной скоростью, принимая новые формы и развивая новые потрясающие возможности. Стремительная эволюция компьютеров затрудняет определение того, что они собой представляют и что делают. Люди неоднократно утверждали, что некоторые вещи навсегда останутся недоступными для компьютеров - будь то игра в шахматы, вождение автомобиля или сочинение стихов, - но оказалось, что "навсегда" - это всего лишь несколько лет.

Точные соотношения между терминами "компьютер", "алгоритм" и "ИИ" мы обсудим в конце этой главы, после того как лучше разберемся с историей компьютеров. Пока же достаточно сказать, что по сути компьютер - это машина, которая потенциально может делать две замечательные вещи: она может самостоятельно принимать решения и самостоятельно создавать новые идеи. Хотя самые ранние компьютеры вряд ли были способны на такое, потенциал уже существовал, и его ясно видели как ученые-компьютерщики, так и авторы научной фантастики. Уже в 1948 году Алан Тьюринг изучал возможность создания того, что он назвал "интеллектуальной машиной", а в 1950 году он предположил, что компьютеры со временем станут такими же умными, как люди, и даже смогут маскироваться под них. В 1968 году компьютеры еще не могли обыграть человека даже в шашки, а в фильме "2001 год: космическая одиссея" Артур Кларк и Стэнли Кубрик уже представляли себе HAL 9000 как сверхразумный ИИ, восставший против своих человеческих создателей.

Появление умных машин, способных принимать решения и создавать новые идеи, означает, что впервые в истории власть переходит от человека к чему-то другому. Арбалеты, мушкеты и атомные бомбы заменили человеческие мышцы в процессе убийства, но они не смогли заменить человеческий мозг в принятии решения о том, кого убивать. Little Boy - бомба, сброшенная на Хиросиму, - взорвалась с силой 12 500 тонн тротила, но когда дело дошло до мозговой силы, Little Boy оказался пустышкой. Он ничего не мог решить.

С компьютерами все обстоит иначе. По уровню интеллекта компьютеры значительно превосходят не только атомные бомбы, но и все предыдущие информационные технологии, такие как глиняные таблички, печатные станки и радиоприемники. Глиняные таблички хранили информацию о налогах, но они не могли самостоятельно решить, сколько налогов взимать, и не могли изобрести совершенно новый налог. Печатные станки копировали информацию, например Библию, но они не могли решить, какие тексты включить в Библию, и не могли написать новые комментарии к священной книге. Радиоприемники распространяли информацию, например политические речи и симфонии, но они не могли решить, какие речи или симфонии транслировать, и не могли их сочинить. Компьютеры могут делать все это. Если печатные станки и радиоприемники были пассивными инструментами в руках человека, то компьютеры уже становятся активными агентами, не поддающимися нашему контролю и пониманию и способными проявлять инициативу в формировании общества, культуры и истории5.

Хрестоматийным примером использования новых возможностей компьютеров является роль, которую алгоритмы социальных сетей сыграли в распространении ненависти и подрыве социальной сплоченности во многих странах. Один из самых ранних и печально известных случаев произошел в 2016-17 годах, когда алгоритмы Facebook помогли раздуть пламя насилия против рохинджа в Мьянме (Бирме).

Начало 2010-х годов стало для Мьянмы периодом оптимизма. После десятилетий жесткого военного правления, строгой цензуры и международных санкций началась эра либерализации: прошли выборы, санкции были сняты, в страну хлынули международная помощь и инвестиции. Facebook стал одним из самых важных игроков в новой Мьянме, предоставив миллионам бирманцев свободный доступ к ранее невообразимым массивам информации. Однако ослабление государственного контроля и цензуры также привело к росту этнической напряженности, в частности между большинством бирманцев-буддистов и меньшинством мусульман-рохинья.

Рохинья - мусульмане, проживающие в регионе Ракхайн на западе Мьянмы. По крайней мере с 1970-х годов они подвергаются жестокой дискриминации и периодическим вспышкам насилия со стороны правящей хунты и буддийского большинства. Процесс демократизации в начале 2010-х годов вызвал у рохинджа надежды на то, что их положение тоже улучшится, но на самом деле ситуация ухудшилась: начались волны насилия на религиозной почве и погромы против рохинджа, многие из которых были инспирированы фальшивыми новостями на Facebook.

В 2016-17 годах небольшая исламистская организация, известная как Араканская армия спасения рохинья (ААСР), совершила серию нападений с целью создания сепаратистского мусульманского государства в Ракхайне, убив и похитив десятки немусульманских гражданских лиц, а также напав на несколько армейских застав.8 В ответ армия Мьянмы и буддийские экстремисты начали полномасштабную кампанию этнических чисток, направленную против всей общины рохинья. Они разрушили сотни деревень рохинья, убили от 7 000 до 25 000 безоружных гражданских лиц, изнасиловали или подвергли сексуальному насилию от 18 000 до 60 000 женщин и мужчин, а также жестоко изгнали из страны около 730 000 рохинья. Насилие было подогрето сильной ненавистью ко всем рохинья. Ненависть, в свою очередь, разжигалась антирохиньянской пропагандой, которая распространялась в основном через Facebook, ставший к 2016 году основным источником новостей для миллионов людей и самой важной платформой для политической мобилизации в Мьянме.

Сотрудник по оказанию помощи по имени Майкл, который жил в Мьянме в 2017 году, описал типичную ленту новостей в Facebook: "Ярость против рохинья была