аудитории. Это был тест на лояльность, который предполагал, что чем дольше вы хлопаете, тем больше любите Сталина. Во многих контекстах такое предположение небезосновательно. Но в условиях Москвы конца 1930-х годов природа аплодисментов изменилась. Поскольку участники конференции знали, что за ними наблюдают, и знали о последствиях любого намека на нелояльность, они хлопали скорее от страха, чем от любви. Директор бумажной фабрики мог первым остановиться не потому, что он был наименее лоялен, а, возможно, потому, что он был наиболее честен, или даже просто потому, что у него больше всего болели руки.

Хотя тест на хлопанье не открывал правды о людях, он был эффективен для наведения порядка и принуждения людей к определенному поведению. Со временем такие методы воспитывали раболепие, лицемерие и цинизм. Именно это советская информационная сеть делала с сотнями миллионов людей на протяжении десятилетий. В квантовой механике акт наблюдения за субатомными частицами меняет их поведение; то же самое происходит и с актом наблюдения за людьми. Чем мощнее наши инструменты наблюдения, тем больше потенциальное воздействие.

Советский режим создал одну из самых мощных информационных сетей в истории. Он собирал и обрабатывал огромные объемы данных о своих гражданах. Он также утверждал, что непогрешимые теории Маркса, Энгельса, Ленина и Сталина дают ему глубокое понимание человечества. На самом деле советская информационная сеть игнорировала многие важные аспекты человеческой природы и полностью отрицала ужасные страдания, которые ее политика причиняла собственным гражданам. Вместо того чтобы производить мудрость, она производила порядок, а вместо того чтобы раскрыть универсальную истину о людях, она фактически создала новый тип человека - Homo sovieticus.

По определению советского философа-сатирика Александра Зиновьева, Homo sovieticus - это подневольные и циничные люди, лишенные всякой инициативы и самостоятельного мышления, пассивно подчиняющиеся даже самым нелепым приказам и безразличные к результатам своих действий. Советская информационная сеть создавала Homo sovieticus с помощью слежки, наказаний и поощрений. Например, отправив директора бумажной фабрики в ГУЛАГ, сеть дала понять другим участникам, что конформизм приносит плоды, а быть первым, кто делает что-то спорное, - плохая идея. Хотя сеть не смогла открыть правду о людях, она была настолько хороша в создании порядка, что завоевала большую часть мира.

 

ДИКТАТУРА СЕБЕ ПОДОБНЫХ

Аналогичная динамика может поразить компьютерные сети XXI века, которые могут породить новые типы людей и новые антиутопии. Хрестоматийный пример - роль алгоритмов социальных сетей в радикализации людей. Конечно, методы, используемые алгоритмами, кардинально отличаются от методов НКВД и не предполагают прямого принуждения или насилия. Но как советская тайная полиция создала рабский Homo sovieticus с помощью слежки, поощрений и наказаний, так и алгоритмы Facebook и YouTube создали интернет-троллей, поощряя определенные низменные инстинкты и наказывая лучших ангелов нашей природы.

Как кратко объясняется в главе 6, процесс радикализации начался, когда корпорации поставили перед своими алгоритмами задачу повысить вовлеченность пользователей не только в Мьянме, но и во всем мире. Например, в 2012 году пользователи ежедневно просматривали на YouTube около 100 миллионов часов видео. Руководителям компании этого было недостаточно, и они поставили перед своими алгоритмами амбициозную цель: 1 миллиард часов в день к 2016 году. Проводя эксперименты на миллионах людей, алгоритмы YouTube обнаружили ту же закономерность, что и алгоритмы Facebook: возмущение повышает вовлеченность, а модерация, как правило, этого не делает. Соответственно, алгоритмы YouTube стали рекомендовать миллионам зрителей возмутительные теории заговора, игнорируя при этом более умеренный контент. К 2016 году пользователи действительно смотрели на YouTube по 1 миллиарду часов в день.

Ютуберы, которые особенно стремились привлечь к себе внимание, заметили, что, когда они выкладывали возмутительное видео, полное лжи, алгоритм вознаграждал их, рекомендуя это видео многочисленным пользователям и увеличивая популярность и доход ютуберов. В противоположность этому, когда они сбавляли градус возмущения и придерживались правды, алгоритм, как правило, игнорировал их. За несколько месяцев такого обучения алгоритм превратил многих ютуберов в троллей.

Социальные и политические последствия были далеко идущими. Например, как пишет журналист Макс Фишер в своей книге "Машина хаоса", вышедшей в 2022 году, алгоритмы YouTube стали важным двигателем подъема бразильских ультраправых и превращения Жаира Болсонару из периферийной фигуры в президента Бразилии. Хотя на этот политический переворот повлияли и другие факторы, примечательно, что многие из главных сторонников и помощников Болсонару изначально были пользователями YouTub, добившимися славы и власти благодаря алгоритмам.

Типичный пример - Карлос Жорди, который в 2017 году был членом городского совета в небольшом городе Нитерой. Амбициозный Жорди привлек к себе внимание общественности, создавая подстрекательские видеоролики на YouTube, которые собирали миллионы просмотров. Например, его ролики предостерегали бразильцев от заговоров школьных учителей с целью промывания мозгов детям и преследования консервативных учеников. В 2018 году Жорди получил место в Палате депутатов Бразилии (нижняя палата бразильского Конгресса) как один из самых преданных сторонников Болсонару. В интервью Fisher Жорди откровенно заявил: "Если бы социальных сетей не существовало, меня бы здесь не было, а Жаир Болсонару не был бы президентом". Последнее утверждение вполне может быть преувеличением, но нельзя отрицать, что социальные сети сыграли важную роль в возвышении Болсонару.

Еще одним ютубером, получившим место в Палате депутатов Бразилии в 2018 году, стал Ким Катагири, один из лидеров Движения за свободную Бразилию (MBL, или Free Brazil Movement). Изначально Катагири использовал Facebook в качестве своей основной платформы, но его посты оказались слишком экстремальными даже для Facebook, который запретил некоторые из них за дезинформацию. Тогда Катагири перешел на более свободный YouTube. В интервью в штаб-квартире MBL в Сан-Паулу помощники Катагири и другие активисты объяснили Фишеру: "У нас здесь есть нечто, что мы называем "диктатурой типа". Они объяснили, что ютуберы склонны становиться все более экстремальными, размещая неправдивый и безрассудный контент "только потому, что что-то даст вам просмотры, даст ангажемент.... Как только вы откроете эту дверь, пути назад уже не будет, потому что вам всегда придется идти дальше.... Плоская земля, антивакцинаторы, теории заговора в политике. Это одно и то же явление. Вы видите это повсюду".

Конечно, алгоритмы YouTube сами не несут ответственности за придумывание лжи и теорий заговора или за создание экстремистского контента. По крайней мере в 2017-18 годах эти вещи делали люди. Однако алгоритмы отвечали за то, чтобы стимулировать людей вести себя подобным образом и продвигать полученный контент, чтобы максимизировать вовлеченность пользователей. Фишер задокументировал множество ультраправых активистов, которые впервые заинтересовались экстремистской политикой после просмотра видеороликов, которые алгоритм YouTube автоматически проигрывал для них. Один ультраправый активист из Нитероя рассказал Фишеру, что никогда не интересовался политикой, пока