слова. Запрет людей на публичных площадках - деликатный шаг, и демократические страны должны быть очень осторожны с такой цензурой. Однако запрет ботов - это простой вопрос: он не нарушает ничьих прав, потому что у ботов нет прав.

Все это не означает, что демократические страны должны запретить всем ботам, алгоритмам и искусственным интеллектам участвовать в любых дискуссиях. Цифровые инструменты могут участвовать во многих дискуссиях, если они не выдают себя за людей. Например, врачи с искусственным интеллектом могут быть очень полезны. Они могут следить за нашим здоровьем двадцать четыре часа в сутки, давать медицинские советы с учетом индивидуальных особенностей здоровья и характера пациента, а также отвечать на наши вопросы с бесконечным терпением. Но ИИ-врач никогда не должен пытаться выдать себя за человека.

Еще одна важная мера, которую могут принять демократические страны, - запретить алгоритмам, не поддающимся контролю, курировать ключевые общественные дискуссии. Мы, конечно, можем продолжать использовать алгоритмы для управления платформами социальных сетей; очевидно, что ни один человек не может этого сделать. Но принципы, по которым алгоритмы решают, какие голоса следует заглушить, а какие усилить, должны проверяться человеческим институтом. Хотя мы должны быть осторожны с цензурой подлинных человеческих взглядов, мы можем запретить алгоритмам намеренно распространять возмущение. По крайней мере, корпорации должны быть прозрачны в отношении принципов курирования, которым следуют их алгоритмы. Если они используют возмущение, чтобы привлечь наше внимание, пусть они четко объяснят свою бизнес-модель и любые политические связи, которые у них могут быть. Если алгоритм систематически удаляет видео, которое не соответствует политической повестке дня компании, пользователи должны знать об этом.

Это лишь некоторые из многочисленных предложений, выдвинутых в последние годы, о том, как демократические страны могли бы регулировать участие ботов и алгоритмов в общественных дискуссиях. Естественно, у каждого из них есть свои преимущества и недостатки, и ни одно из них не будет легко реализовать. Кроме того, поскольку технология развивается так быстро, правила, скорее всего, быстро устареют. Я хотел бы подчеркнуть, что демократические страны могут регулировать информационный рынок и что от этого зависит их выживание. Наивный взгляд на информацию выступает против регулирования и считает, что полностью свободный информационный рынок будет спонтанно генерировать истину и порядок. Это совершенно не соответствует реальной истории демократии. Сохранение демократического диалога никогда не было легким делом, и все места, где он происходил - от парламентов и мэрий до газет и радиостанций, - требовали регулирования. Это вдвойне верно в эпоху, когда чужеродная форма интеллекта угрожает доминировать в разговоре.

 

БУДУЩЕЕ ДЕМОКРАТИИ

На протяжении большей части истории масштабная демократия была невозможна, потому что информационные технологии не были достаточно развиты для проведения масштабных политических дискуссий. Миллионы людей, разбросанных на десятках тысяч квадратных километров, не имели инструментов для обсуждения общественных дел в режиме реального времени. Теперь, по иронии судьбы, демократия может оказаться невозможной из-за того, что информационные технологии становятся слишком сложными. Если непостижимые алгоритмы возьмут на себя управление беседой, и особенно если они будут подавлять аргументированные споры и разжигать ненависть и смятение, общественное обсуждение невозможно будет поддерживать. Однако если демократия и рухнет, то, скорее всего, не из-за технологической неизбежности, а из-за неспособности людей разумно регулировать новые технологии.

Мы не можем предсказать, как будут развиваться события. Однако уже сейчас очевидно, что информационная сеть многих демократических стран разрушается. Демократы и республиканцы в США больше не могут договориться даже об основных фактах - например, о том, кто победит на президентских выборах 2020 года, - и вряд ли смогут вести вежливую беседу. Двухпартийное сотрудничество в Конгрессе, некогда бывшее основополагающей чертой американской политики, практически исчезло.56 Такие же процессы радикализации происходят во многих других демократических странах, от Филиппин до Бразилии. Когда граждане не могут разговаривать друг с другом, когда они воспринимают друг друга как врагов, а не как политических соперников, демократия становится несостоятельной.

Никто точно не знает, что является причиной разрушения демократических информационных сетей. Некоторые говорят, что это происходит из-за идеологических разногласий, но на самом деле во многих неблагополучных демократиях идеологические разрывы, похоже, не больше, чем в предыдущих поколениях. В 1960-е годы Соединенные Штаты раздирали глубокие идеологические конфликты, связанные с движением за гражданские права, сексуальной революцией, войной во Вьетнаме и холодной войной. Эти противоречия вызвали всплеск политического насилия и убийств, но республиканцы и демократы все же смогли договориться о результатах выборов, они сохранили общую веру в демократические институты, такие как суд, и смогли работать вместе в Конгрессе, по крайней мере, по некоторым вопросам. Например, Закон о гражданских правах 1964 года был принят в Сенате при поддержке сорока шести демократов и двадцати семи республиканцев. Неужели идеологический разрыв в 2020-х годах настолько больше, чем в 1960-х? И если это не идеология, то что разделяет людей?

Многие указывают на алгоритмы социальных сетей. В предыдущих главах мы исследовали разжигающее рознь влияние социальных сетей, но, несмотря на убедительные доказательства, кажется, что здесь должны действовать дополнительные факторы. Правда в том, что, хотя мы можем легко заметить, что демократическая информационная сеть разрушается, мы не знаем, почему. Это само по себе характерно для времени. Информационная сеть стала настолько сложной, настолько опирается на непрозрачные алгоритмические решения и межкомпьютерные сущности, что людям стало очень трудно ответить даже на самые простые политические вопросы: Почему мы воюем друг с другом?

Если мы не сможем понять, что именно сломалось, и исправить это, крупномасштабные демократии могут не пережить рост компьютерных технологий. Если это действительно произойдет, что может заменить демократию в качестве доминирующей политической системы? Принадлежит ли будущее тоталитарным режимам, или компьютеры могут сделать тоталитаризм тоже несостоятельным? Как мы увидим, у человеческих диктаторов есть свои причины бояться искусственного интеллекта.

 

ГЛАВА 10.

Тоталитаризм: Вся власть алгоритмам?

 

Российские дискуссии об этике и политике новой компьютерной сети часто фокусируются на судьбе демократических государств. Если и упоминаются авторитарные и тоталитарные режимы, то в основном как антиутопия, к которой "мы" можем прийти, если не сумеем разумно управлять компьютерной сетью. Однако по состоянию на 2024 год более половины "нас" уже живут в авторитарных или тоталитарных режимах, многие из которых были установлены задолго до появления компьютерной сети. Чтобы понять влияние алгоритмов и ИИ на человечество, мы должны спросить себя, каким будет их воздействие не только на такие демократические страны, как США и Бразилия, но и на Коммунистическую партию Китая и королевский дом Сауда.

Как уже говорилось в предыдущих главах,