матери. Он вытаскивал на поверхность свое самое старое, глубокое горе, погребенное под десятилетиями новой жизни, чтобы мы могли вместе встретить новое горе. Он защищал меня. Столько лет я думала, что его подростковый возраст никогда не закончится, а на самом деле он закончился - слишком рано. Он всегда казался мне ребенком, застывшим во времени, но в тот момент я увидела нечто новое. Под всем этим билось отцовское сердце.

Приближался конец моего второго десятилетия работы в области ИИ, а также конец второго года работы в Google, и я никогда еще не чувствовал себя так плохо. Хаос в моей области охватывал все, включая меня. Но я также начал осознавать закономерность, которая, казалось, определяла мою жизнь. Как бы трудно ни было, что-то напоминало мне о том, что значит быть человеком посреди всего этого. Каждый раз я был благодарен.

 

Разговоры о профессиональной этике сложны практически в любой обстановке, но в один из дней осени 2018 года, когда я стоял в переполненном конференц-зале и пытался ответить на вопросы команды инженеров и менеджеров по продуктам, которые теперь подчинялись мне, это было особенно напряженно. После стольких потрясений - как в нашей отрасли, так и за ее пределами, от культуры до политики, - момент размышлений казался мне давно назревшим.

"Знаете, - начал я, делая длинные паузы, разделяющие мои слова, - я люблю физику почти столько, сколько себя помню. Но невозможно отделить красоту науки от чего-то вроде, скажем, Манхэттенского проекта. Это просто реальность. У ИИ есть свои козлы отпущения, будь то роботы-убийцы, повсеместная слежка или даже просто автоматизация всех восьми миллиардов людей, лишивших нас работы. Это страшные вещи, и их стоит опасаться. Но это крайности, и они, скорее всего, не произойдут завтра".

Я выдержал долгую паузу, обдумывая свои следующие слова.

"И вот тут, я полагаю, все становится по-настоящему сложным. Потому что в это время нужно учитывать еще очень многое. Много хорошего и много плохого, причем некоторые из них могут произойти уже завтра. Поэтому я надеюсь, что вы сможете оценить возможности, которые нам открываются. Мы играем роль в том, что будет дальше. Мы должны относиться к этому серьезно. Именно поэтому этические рамки так важны. Что-то, что поможет нам оценить каждый наш шаг, прежде чем мы его сделаем".

На мгновение в комнате воцарилась тишина.

"Могу я задать вопрос?" Голос принадлежал недавно нанятому научному сотруднику, сидевшему в дальнем углу комнаты. Она была блестящей и высокотехничной, недавно окончила одну из самых элитных школ мира. Но голос ее звучал робко. "Эта идея "этических рамок"..."

"Да?"

"... что это значит?"

Это был более фундаментальный вопрос, чем я ожидал, и, вероятно, именно тот, который мы все должны были задать.

Присоединяйтесь к команде, помогающей местным одиночкам найти любовь с помощью больших данных, аналитики и искусственного интеллекта! Сейчас мы принимаем на работу!

 

С заднего сиденья я прищурился на очередной рекламный щит на 101-м шоссе. Я начал задумываться, не является ли реальной угрозой ИИ то, что становится невозможным рекламировать что-либо, кроме ИИ. Прошло несколько месяцев после моего разговора об этике нашей работы с командой, и с тех пор этот вопрос часто приходил мне на ум. Голос моего коллеги прервал размышления.

"Эй, взгляни", - сказал он, протягивая мне несколько распечатанных страниц. "Просто некоторые тезисы от PR-команды, которые мы могли бы использовать".

Я улыбнулся, глядя вниз, но это были не те слова, которые подняли мне настроение, пока наша машина ползла сквозь очередную утреннюю пробку на южном направлении . Мы ехали в Маунтин-Вью, чтобы принять участие в ежегодной традиции, которую мне предстояло испытать во второй раз. Google привозит сотни своих летних стажеров - обширную когорту из офисов по всему миру - в Googleplex, чтобы встретиться с руководством и узнать больше о многочисленных путях развития своей карьеры. Для компании это было рекрутинговое мероприятие. Для меня же это был отдых от корпоративной жизни, который напомнил о лучших моментах работы преподавателем. Комната, полная ярких, молодых и, несомненно, перспективных мыслителей. И я могу поговорить с ними.

Обычно я с удовольствием следовал сценарию. В отличие от моего опыта свободного профессора, быть представителем Google означало отвечать перед столькими руководителями, PR-консультантами и даже юристами, что мысль о том, чтобы выйти из себя, могла быть откровенно пугающей. Мои заявления обычно представляли собой некую реконфигурацию одного и того же шаблона об искусственном интеллекте и бизнесе, который вежливо и без инцидентов доставлялся тому или иному репортеру или аудитории аналитиков. Я дошел до того, что мог практически декламировать слова по памяти.

Но это были странные времена, и что-то внутри меня жаждало перемен. Мои мысли вернулись к встрече с командой. Последний вопрос повторялся снова и снова: что именно означает "этические рамки"? В той мере, в какой я сам имел хоть какое-то представление о том, что может представлять собой это понятие, - а чем больше я об этом думал, тем больше понимал, - многое из того, что я знал об этике технологий, было счастливой случайностью нетрадиционной карьеры. Предложения Совета по институциональному надзору с Кристофом в Калтехе. Годы работы с такими людьми, как Арни, в больницах, углубленные благодаря сопровождению врачей на обходах и выслушиванию проблем медсестер. Родители дома, о которых я не переставал беспокоиться. Жизнь подростка-иммигранта.

Суровая правда заключалась в том, что в таких областях, как здравоохранение, существуют нормы, прецеденты и этические основы, которые создавались на протяжении веков, если не тысячелетий, с учетом неизбежной реальности жизни и смерти. ИИ, для сравнения, был настолько молод, что его собственный этический кодекс практически не существовал. Путь нашей области к самопониманию еще только начинался. Так что этических рамок не хватало не только Google, но и таким людям, как тот молодой инженер, задавший вопрос. Это были все мы.

Я притворялся заинтересованным в работе пиарщиков, сканируя выделенные неоном фрагменты, но я уже принял решение: к лучшему или худшему, эта речь будет без репетиций. Мне предстояло выступить перед семью сотнями самых влиятельных технических специалистов завтрашнего дня, и я решил говорить от всего сердца. Кроме того, поскольку мой отпуск подходил к концу, я чувствовал себя более чем интроспективно.

Несмотря на то, что работа в Google Cloud часто дезориентирует, я не могу не испытывать благодарности за время, проведенное в компании. Мне была предоставлена возможность, которая редко выпадает ученым: встретиться с людьми, на которых влияние исследований в моей области сказывается в самом большом масштабе, и