считать формой экзистенциальной устойчивости. Варианты будущего, где аккумулированный экзистенциальный риск достигает 100 %, неустойчивы. Следовательно, нам нужно разработать строгий рисковый бюджет на все свое будущее, тщательно распределив этот невозобновляемый ресурс между будущими поколениями.

В конечном счете экзистенциальная безопасность предполагает снижение общего экзистенциального риска на как можно большее число процентов. Сохраняя потенциал, мы снижаем долю общего риска, которая приходится на несколько последующих десятилетий, а защищая его, снижаем долю, которая приходится на более долгий срок. Мы можем работать над этими элементами параллельно, направляя часть усилий на снижение ближайших рисков, а часть – на создание институтов, наращивание компетенций, накопление знаний и обретение воли к тому, чтобы свести будущие риски к минимуму[508].

Необходимость экзистенциальной безопасности основана в первую очередь на том, что никаких серьезных препятствий к бесконечно долгому существованию человечества нет, если только это станет приоритетом для всего мира. Как мы увидели в третьей главе, у нас достаточно времени, чтобы защититься от природных рисков: даже если бы у нас ушли целые тысячелетия на то, чтобы справиться с угрозами, исходящими от астероидов, супервулканов и сверхновых, мы приняли бы на себя менее одного процента общего риска.

Больший риск (в более сжатые сроки) представляют антропогенные угрозы. Однако, поскольку их производит само человечество, контроль над ними тоже в наших руках. Будь мы достаточно терпеливы, благоразумны и скоординированы, мы бы просто перестали подвергать себя таким рискам. Мы учли бы скрытые издержки углеродных выбросов (или ядерного оружия) и поняли, что выгоды в них нет. Мы бы выработали более зрелый подход к наиболее радикальным новым технологиям, посвящая заблаговременному анализу и регулированию не меньше сил, чем технологическому развитию.

В прошлом выживание человечества не требовало приложения такого количества сознательных усилий: поскольку оно было достаточно коротким, мы смогли избежать природных угроз, а создать антропогенные риски мы были еще не в силах. Но теперь нам нужно сделать сознательный выбор, чтобы выжить в долгосрочной перспективе. И мы придем к нему, когда еще больше людей поймет, что этот выбор необходим. Непросто будет заставить их заглянуть так далеко в будущее и отвлечься от текущих локальных конфликтов. Но логика здесь ясна, а моральные аргументы убедительны. Правильный выбор возможен.

Если мы обеспечим экзистенциальную безопасность, нам станет легче дышать. Обезопасив долгосрочный потенциал человечества, мы преодолеем Пропасть и сможем рассмотреть весь диапазон вариантов будущего. Мы также сможем не торопясь поразмыслить о том, чего действительно хотим: какой из вариантов позволит нам лучше всего реализовать свой потенциал. Этот период мы назовем долгим раздумьем[509].

Мы редко думаем таким образом. Мы направляем внимание на здесь и сейчас. Даже тем из нас, кто глубоко озабочен нашим долгосрочным будущим, нужно в первую очередь сосредоточиться на том, чтобы у нас вообще было будущее. Однако, обеспечив экзистенциальную безопасность, мы дадим себе время проанализировать различные доступные варианты будущего и решить, какой из них подходит нам лучше всего. До сих пор философия морали главным образом рассматривала негативные ситуации: как избежать неверных действий и плохих исходов. Изучение позитивных ситуаций только начинается[510]. В период долгого раздумья нам нужно будет разработать состоятельные теории, которые позволят нам сравнить потенциальные великие достижения наших потомков в масштабах эпох и галактик.

Живущим сегодня людям, включая меня, вряд ли суждено узнать итоги этого раздумья[511]. Но у нас есть уникальный шанс претворить его в жизнь.

В ходе долгого раздумья нам нужно будет найти окончательный ответ на вопрос о том, какое будущее оптимально для человечества. Это может быть как истинный ответ (если категория истинности применима к моральным вопросам), так и ответ, к которому мы все придем по итогам идеального процесса размышления. Возможно, прийти к одному ответу окажется невозможно и сохранится ряд спорных моментов и неоднозначностей, которые нельзя будет логически разрешить. В таком случае нашей целью станет поиск будущего, которое лучше всего примирит между собой оставшиеся варианты[512].

Нам не нужно будет доводить этот процесс до конца, прежде чем двигаться вперед. Главное – достаточно точно понять, чего примерно мы хотим, прежде чем предпринимать смелые и потенциально необратимые шаги, каждый из которых вполне может закрепить важные аспекты траектории нашего будущего развития.

Например, лучший из возможных вариантов будущего может предполагать физическое усовершенствование человечества путем улучшения нашей биологии на генетическом уровне. А может, в нем люди получат свободу принимать поразительное количество новых биологических форм. Но если мы слишком рано пойдем по любому из этих путей, могут возникнуть сопряженные с этим экзистенциальные риски.

Если мы радикально изменим собственную природу, то заменим человечество (или, по крайней мере, Homo sapiens) чем-то новым. Возникнет риск потерять самое ценное, что есть в человечестве, даже не успев это постичь. Если мы разнообразим свои формы, то человечество окажется разделенным на части. Мы можем лишиться неотъемлемого единства человечества, которое позволяет нам прийти к согласию при выборе лучшего из вариантов будущего, и вместо этого ввязаться в бесконечную борьбу или вынужденно пойти на неудовлетворительный компромисс. С подобными рисками могут быть сопряжены и другие смелые шаги: например, если мы расселимся за пределами Солнечной системы и создадим федерацию независимых миров, каждый из которых пойдет в собственном культурном направлении.

Я не хочу сказать, что нужно противиться таким изменениям в положении человечества, ведь вполне возможно, что без них мы не сможем в полной мере реализовать свой потенциал. Я просто отмечаю, что таким смелым шагам должно предшествовать долгое раздумье[513]. Или, по крайней мере, раздумье достаточное, чтобы мы могли осознать последствия конкретных перемен. Нам не стоит спешить при выборе пути. Обеспечив экзистенциальную безопасность, мы практически гарантируем себе успех, если пойдем вперед медленно и осторожно: это наша игра, и ошибки в ней могут быть только невынужденными.

Что мы можем сказать о процессе долгого раздумья? На мой взгляд, оно станет не единственной задачей человечества в этот период – будет и много других прекрасных проектов: мы будем дальше накапливать знания, повышать благосостояние и укреплять справедливость. Многие люди того времени проявят лишь сдержанный интерес к долгому раздумью. Но именно долгое раздумье сильнее всего повлияет на характер нашего будущего, а потому оно и станет определяющей приметой времени[514].

Возможно, процесс пойдет главным образом в интеллектуальных кругах, а возможно, в него будет вовлечена и более широкая общественность. В любом случае нам нужно будет проявлять огромную осторожность, чтобы на него не повлияли предрассудки и предвзятость участников. Как Джонатан Шелл сказал о подобном предприятии, “даже если бы к