исходят из расчетов инопланетного разума. Чтобы защититься от множества непредвиденных проблем, нам лучше всего создать живые институты, которые смогут выявлять угрозы и реагировать на них по мере их возникновения70.

Древние иудеи и христиане были разочарованы, обнаружив, что Библия не может толковать сама себя, и с неохотой поддерживали человеческие институты, чтобы те делали то, что не могла сделать технология. В XXI веке мы находимся в почти противоположной ситуации. Мы разработали технологию, которая может интерпретировать сама себя, но именно по этой причине нам лучше создать человеческие институты для тщательного контроля за ней.

В заключение следует сказать, что новая компьютерная сеть не обязательно будет плохой или хорошей. Все, что мы знаем наверняка, - это то, что она будет чужой и ошибочной. Поэтому нам необходимо создать институты, которые смогут проверить не только привычные человеческие слабости, такие как жадность и ненависть, но и радикально чуждые ошибки. Технологического решения этой проблемы не существует. Это, скорее, политический вызов. Есть ли у нас политическая воля, чтобы справиться с ней? Современное человечество создало два основных типа политических систем: масштабную демократию и масштабный тоталитаризм. В части 3 рассматривается, как каждая из этих систем может справиться с радикально чуждой и ошибочной компьютерной сетью.

ЧАСТЬ

III

.

Компьютерная политика

ГЛАВА 9.

Демократии: Можем ли мы еще вести беседу?

 

Цивилизации рождаются из брака бюрократии и мифологии. Компьютерная сеть - это новый тип бюрократии, гораздо более мощный и неумолимый, чем любая человеческая бюрократия, которую мы видели раньше. Эта сеть также может создать межкомпьютерную мифологию, которая будет намного сложнее и чужероднее, чем любой бог, созданный человеком. Потенциальные преимущества этой сети огромны. Потенциальная обратная сторона - разрушение человеческой цивилизации.

Для некоторых людей предупреждения о крахе цивилизации звучат как чрезмерные иеремиады. Каждый раз, когда появлялась новая мощная технология, возникали опасения, что она может привести к апокалипсису, но мы все еще здесь. По мере развития промышленной революции сценарии конца света луддитов не оправдались, и "темные сатанинские мельницы" Блейка в итоге привели к созданию самых благополучных обществ в истории. Сегодня большинство людей живут гораздо лучше, чем их предки в XVIII веке. Разумные машины окажутся еще более полезными, чем все предыдущие, обещают такие энтузиасты ИИ, как Марк Андреессен и Рэй Курцвейл. Люди будут пользоваться гораздо более качественным здравоохранением, образованием и другими услугами, а ИИ даже поможет спасти экосистему от разрушения.

К сожалению, более пристальный взгляд на историю показывает, что луддиты были не совсем неправы и что у нас на самом деле есть очень веские причины опасаться новых мощных технологий. Даже если в конечном итоге положительные стороны этих технологий перевешивают отрицательные, путь к счастливому финалу обычно сопряжен со многими испытаниями и бедами. Новые технологии часто приводят к историческим катастрофам, но не потому, что они изначально плохие, а потому, что людям требуется время, чтобы научиться использовать их с умом.

Промышленная революция - яркий тому пример. Когда в XIX веке промышленные технологии начали распространяться по всему миру, они разрушили традиционные экономические, социальные и политические структуры и открыли путь к созданию совершенно новых обществ, потенциально более благополучных и мирных. Однако научиться строить благополучные индустриальные общества было далеко не просто и потребовало проведения множества дорогостоящих экспериментов и сотен миллионов жертв.

Одним из дорогостоящих экспериментов стал современный империализм. Промышленная революция зародилась в Великобритании в конце восемнадцатого века. В течение девятнадцатого века промышленные технологии и методы производства были приняты в других европейских странах, от Бельгии до России, а также в Соединенных Штатах и Японии. Империалистические мыслители, политики и партии в этих промышленных центрах утверждали, что единственное жизнеспособное индустриальное общество - это империя. Аргумент состоял в том, что в отличие от относительно самодостаточных аграрных обществ, новые индустриальные общества в гораздо большей степени зависели от внешних рынков и иностранного сырья, и только империя могла удовлетворить эти беспрецедентные аппетиты. Империалисты опасались, что промышленно развитые страны, не сумевшие завоевать колонии, будут отрезаны от важнейших сырьевых ресурсов и рынков более безжалостными конкурентами. Некоторые империалисты утверждали, что приобретение колоний не только необходимо для выживания их собственного государства, но и полезно для всего человечества. Они утверждали, что только империи могут распространить благословение новых технологий на так называемый неразвитый мир.

Поэтому такие промышленные страны, как Великобритания и Россия, уже имевшие империи, значительно расширили их, в то время как такие страны, как США, Япония, Италия и Бельгия, взялись за их создание. Оснащенные массовым производством винтовок и артиллерии, оснащенные паровым двигателем и управляемые по телеграфу, армии промышленности пронеслись по земному шару от Новой Зеландии до Кореи и от Сомали до Туркменистана. Миллионы коренных жителей увидели, как их традиционный образ жизни был растоптан под колесами этих промышленных армий. Потребовалось более века страданий, прежде чем большинство людей поняли, что индустриальные империи были ужасной идеей и что есть лучшие способы построить индустриальное общество и обеспечить его необходимым сырьем и рынками.

Сталинизм и нацизм также были чрезвычайно дорогостоящими экспериментами по созданию индустриальных обществ. Такие лидеры, как Сталин и Гитлер, утверждали, что промышленная революция высвободила огромные силы, которые только тоталитаризм может контролировать и использовать в полной мере. Они указывали на Первую мировую войну - первую "тотальную войну" в истории - как на доказательство того, что выживание в индустриальном мире требует тоталитарного контроля над всеми аспектами политики, общества и экономики. В качестве положительного момента они также утверждали, что промышленная революция была подобна печи, которая расплавила все предыдущие социальные структуры с их человеческими несовершенствами и слабостями и дала возможность создать совершенные общества, населенные безупречными сверхлюдьми.

На пути к созданию идеального индустриального общества сталинцы и нацисты научились убивать миллионы людей в промышленных масштабах. Поезда, колючая проволока и телеграфные приказы были связаны между собой, чтобы создать беспрецедентную машину убийства. Оглядываясь назад, большинство людей сегодня ужасаются тому, что совершали сталинисты и нацисты, но в то время их дерзкие идеи завораживали миллионы. В 1940 году было легко поверить, что Сталин и Гитлер были образцом использования индустриальных технологий, в то время как загибающиеся либеральные демократии находились на пути к свалке истории.

Само существование конкурирующих рецептов построения индустриальных обществ приводило к дорогостоящим столкновениям. Две мировые войны и холодную войну можно рассматривать как спор о том, как правильно действовать, в ходе которого все стороны учились друг у друга, экспериментируя с новыми промышленными методами