Не распространяйте опасную информацию. Изучать экзистенциальный риск – значит исследовать уязвимости нашего мира. Порой это рождает новые опасности. Если недостаточно осторожно обращаться с такой информацией, мы рискуем стать еще более уязвимыми (см. врезку “Информационные угрозы”, с. 164).

Не преувеличивайте риски. Заявления об экзистенциальном риске часто считают преувеличенными. Свою роль в этом играет и тенденция завышать риски, из-за которой людям становится значительно труднее разглядеть на общем фоне данные, полученные в ходе трезвого и взвешенного анализа.

Не проявляйте фанатизма. Защита нашего будущего имеет исключительное значение, но это не единственная важная задача, стоящая перед человечеством. Мы должны проявлять сознательность и нести в мир добро. Утомлять других бесконечными разговорами о риске нецелесообразно. Уговаривать их, что этот вопрос важнее любого другого, который кажется важным им, и того хуже.

Не проявляйте племенных инстинктов.Защита нашего будущего не прерогатива левых или правых, богатых или бедных, Востока или Запада. Эта задача лишена идеологической окраски. Если представлять ее как политический вопрос, стоящий по одну из сторон спорного водораздела, это может обернуться катастрофой. В будущем всем есть что терять, поэтому мы должны защищать его вместе[572].

Не забывайте о добросовестности. Когда на кону стоит нечто невероятно важное, а остальные не торопятся ничего предпринимать, людям кажется, что у них есть право добиваться успеха любыми способами. Нам ни в коем случае нельзя поддаваться такому соблазну. Единственный недобросовестный человек может испортить дело и перечеркнуть все, чего мы надеемся достичь.

Не отчаивайтесь. Отчаяние лишает нас сил, затуманивает наш разум и прогоняет всех, кто пытается нам помочь. Отчаяние – это самоисполняющееся пророчество. Хотя риски реальны и значительны, нам не известно ни одного риска, который мы были бы не в состоянии устранить. Только с высоко поднятой головой можно добиться успеха.

Не забывайте о хорошем. Хотя риски – главные трудности, с которыми сталкивается человечество, нельзя, чтобы наша жизнь сводилась только к ним. Нас ведет вперед надежда на будущее. Если ориентироваться на нее, у нас – и у остальных – появится необходимый стимул защищать свое будущее[573].

Что можете сделать вы

В этой главе в основном рассматривались системные вопросы о том, как человечеству в целом преодолеть Пропасть и реализовать свой потенциал. Но среди этих масштабных вопросов и тем у каждого есть шанс сыграть свою роль в защите будущего.

Один из самых надежных способов трудиться на благо мира – делать это в рамках своей профессиональной деятельности. Работая, мы посвящаем около 80 тысяч часов решению некой проблемы, большой или маленькой. Это настолько огромная часть нашей жизни, что если мы сможем посвятить ее одной из самых важных проблем, то внесем колоссальный вклад в общее дело.

Если вы трудитесь в сфере информатики или программирования, возможно, вы сумеете переключиться на работу с экзистенциальным риском, сопряженным с ИИ: например, проводя весьма востребованные исследования контроля ИИ или работая инженером над ИИ-проектом, где риски воспринимаются всерьез[574]. Если ваша сфера – медицина или биология, вы можете помочь с рисками, сопряженными с пандемиями искусственного происхождения. Если вы занимаетесь климатом, то можете расширять наши представления о вероятности и последствиях реализации радикальных климатических сценариев. Если ваша работа связана с политологией или международными отношениями, вы можете налаживать международную кооперацию в сфере экзистенциального риска, обеспечивать будущим поколениям право голоса в демократии или предотвращать войны между великими державами. Если вы работаете в правительстве, то можете помочь защитить будущее, повышая стандарты безопасности и создавая новые технологические регламенты.

Возможности не ограничиваются непосредственной работой с экзистенциальным риском. Ваш вклад может подкреплять усилия тех, кто выполняет непосредственную работу. Сегодня многие безотлагательные задачи связаны не с риском как таковым, а скорее со стратегическим планированием, координацией и выделением грантов. Когда человечество начнет ответственно подходить к защите собственного будущего, важно будет распределять ресурсы между проектами и организациями, формирующими и поддерживающими сообщество исследователей и разрабатывающими стратегию. Важно как можно скорее усовершенствовать структуру и расширить полномочия организаций, работающих с экзистенциальным риском. Многие из них ищут квалифицированных людей, действительно понимающих суть необычной миссии. Если у вас есть какие-либо из этих навыков – например, если у вас есть