жаргоне как деонтология и утилитаризм. Деонтологи (от греческого слова deon, означающего "долг") считают, что существуют некие универсальные моральные обязанности, или моральные правила, которые применимы ко всем. Эти правила не зависят от соответствия какой-то высшей цели, а скорее от их внутренней доброты. Если такие правила действительно существуют и если мы сможем найти способ запрограммировать их в компьютерах, то сможем быть уверены, что компьютерная сеть будет служить добру.

Но что именно означает "внутренняя доброта"? Самая известная попытка дать определение внутренне хорошему правилу была предпринята Иммануилом Кантом, современником Клаузевица и Наполеона. Кант утверждал, что внутренне хорошее правило - это любое правило, которое я хотел бы сделать универсальным. Согласно этой точке зрения, человек, собирающийся убить кого-то, должен остановиться и проанализировать следующий ход мыслей: "Сейчас я собираюсь убить человека. Хотел бы я установить универсальное правило, гласящее, что убивать людей можно? Если такое универсальное правило будет установлено, то кто-то может убить меня. Значит, не должно быть универсального правила, разрешающего убийство. Из этого следует, что я тоже не должен убивать". Говоря более простым языком, Кант переформулировал старое Золотое правило: "Поступай с другими так, как хочешь, чтобы поступали с тобой" (Матфея 7:12).

Это звучит как простая и очевидная идея: каждый из нас должен вести себя так, как мы хотим, чтобы вели себя все. Но идеи, которые хорошо звучат в бесплотном царстве философии, часто с трудом перекочевывают на суровую землю истории. Главный вопрос, который историки могли бы задать Канту: когда вы говорите о всеобщих правилах, как именно вы определяете понятие "всеобщий"? В реальных исторических обстоятельствах, когда человек собирается совершить убийство, первым его шагом часто становится исключение жертвы из универсального сообщества человечества. Именно так, например, поступили экстремисты-антирохинья, такие как Виратху. Будучи буддийским монахом, Виратху, конечно, был против убийства людей. Но он не считал, что это универсальное правило применимо к убийству рохинджа, которые считались недочеловеками. В своих постах и интервью он неоднократно сравнивал их со зверями, змеями, бешеными собаками, волками, шакалами и другими опасными животными. 30 октября 2017 года, в разгар насилия против рохинджа, другой, более высокопоставленный буддийский монах прочитал проповедь для военных, в которой оправдывал насилие против рохинджа тем, что небуддисты "не совсем люди".

В качестве эксперимента представьте себе встречу Иммануила Канта и Адольфа Эйхмана, который, кстати, считал себя кантианцем. Когда Эйхман подписывает приказ об отправке очередного эшелона с евреями в Освенцим, Кант говорит ему: "Вы собираетесь убить тысячи людей. Не хотите ли вы установить универсальное правило, гласящее, что убивать людей можно? Если вы это сделаете, вы и ваша семья тоже можете быть убиты". Эйхман отвечает: "Нет, я не собираюсь убивать тысячи людей. Я собираюсь убить тысячи евреев. Если вы спросите меня, хочу ли я установить универсальное правило, согласно которому убивать евреев можно, то я только за. Что касается меня и моей семьи, то нет никакого риска, что это универсальное правило приведет к тому, что нас убьют. Мы не евреи".

Один из возможных кантовских ответов Эйхману заключается в том, что при определении сущностей мы всегда должны использовать наиболее универсальное определение. Если сущность может быть определена как "еврей" или "человек", мы должны использовать более универсальный термин "человек". Однако вся суть нацистской идеологии заключалась в том, чтобы отрицать человечность евреев. Кроме того, обратите внимание, что евреи - это не просто люди. Они также животные и организмы. Поскольку животные и организмы, очевидно, являются более универсальными категориями, чем "человек", если следовать кантовскому аргументу до его логического завершения, это может подтолкнуть нас к крайней веганской позиции. Раз мы - организмы, значит ли это, что мы должны возражать против убийства любого организма, вплоть до помидоров или амёб?

В истории многие, если не большинство, конфликтов связаны с определением идентичности. Все согласны с тем, что убийство - это плохо, но считают, что "убийством" считается только убийство членов ин-группы, тогда как убийство кого-то из аут-группы таковым не является. Но ин-группы и аут-группы - это интерсубъективные сущности, определение которых обычно зависит от некоторой мифологии. Деонтологи, стремящиеся к универсальным рациональным правилам, часто оказываются в плену локальных мифов.

Эта проблема с деонтологией становится особенно острой, если мы пытаемся диктовать универсальные деонтологические правила не людям, а компьютерам. Компьютеры даже не являются органическими существами. Так что если они следуют правилу "Поступай с другими так, как хочешь, чтобы поступали с тобой", то почему их должно волновать убийство таких организмов, как люди? У кантовского компьютера, который не хочет, чтобы его убивали, нет причин возражать против универсального правила, гласящего, что "убивать организмы можно"; такое правило не угрожает неорганическому компьютеру.

С другой стороны, будучи неорганическими сущностями, компьютеры могут не беспокоиться о смерти. Насколько мы можем судить, смерть - это органическое явление, и оно может быть неприменимо к неорганическим сущностям. Когда древние ассирийцы говорили об "убийстве" документов, это была всего лишь метафора. Если компьютеры больше похожи на документы, чем на организмы, и их не волнует, что их "убивают", хотели бы мы, чтобы кантовский компьютер пришел к выводу, что убивать людей - это нормально?

Есть ли способ определить, о ком должны заботиться компьютеры, не увязая в каких-то интерсубъективных мифах? Самое очевидное предложение - сказать компьютерам, что они должны заботиться о любом существе, способном страдать. Хотя страдания часто вызваны верой в локальные интерсубъективные мифы, само страдание, тем не менее, является универсальной реальностью. Поэтому использование способности к страданию для определения критической внутренней группы обосновывает мораль в объективной и универсальной реальности. Самоуправляемый автомобиль должен избегать убийства всех людей - будь то буддист или мусульманин, француз или итальянец, - а также собак и кошек, и любых разумных роботов, которые могут когда-нибудь появиться. Мы можем даже усовершенствовать это правило, предписав автомобилю заботиться о различных существах прямо пропорционально их способности страдать. Если машине придется выбирать между убийством человека и убийством кошки, она должна будет проехать по кошке, потому что, предположительно, у нее меньше возможностей страдать. Но если мы пойдем в этом направлении, то непреднамеренно покинем лагерь деонтологов и окажемся в лагере их соперников - утилитаристов.

 

ИСЧИСЛЕНИЕ СТРАДАНИЙ

В то время как деонтологи пытаются найти универсальные правила, которые по своей сути являются хорошими, утилитаристы оценивают действия по их влиянию на страдания и счастье. Английский философ Джереми Бентам - еще один современник Наполеона, Клаузевица и Канта - говорил, что единственная рациональная конечная цель - это минимизация страданий в мире и максимизация счастья. Если наш главный