Я знал, что это неправда, но не мог заставить ее объясниться. Я позволил вопросу затянуться и просто наслаждался моментом вместе с ней. Было солнечно, и гардении цвели.

Наконец она нарушила молчание.

"Знаешь, Фей-Фей, - тихо сказала она, - быть пациентом... это просто ужасно". Теперь она стояла лицом ко мне. "Это не только боль. Это потеря контроля. В той палате мне казалось, что мое тело и даже мой разум не принадлежат мне. Там были все эти незнакомые люди - врачи и медсестры, я знаю, но они чужие для меня, и это ожидание следовать каждому их приказу... Это стало просто невыносимо".

Я продолжал слушать.

"Даже у тебя были заказы для меня!"

Мы оба захихикали, хоть немного разрядив обстановку.

"Я знаю, что вы пытались помочь", - добавила она. "Я знаю, что вы все пытались. Я понимаю, что все это было важно для моего здоровья. Но наступил момент, когда я уже не могла справляться с требованиями".

Затем, после еще одного мгновения раздумий, она указала на него. "Мое достоинство исчезло. Исчезло. В такой момент..." Она как будто запнулась. Я уже собирался подтолкнуть ее к продолжению, когда она закончила мысль. "... даже ваше здоровье... просто не имеет значения".

Я многому научился за время существования этого проекта. Уроки раскрывались медленно и часто болезненно. Я по-другому взглянула на борьбу моей матери со своим здоровьем и прониклась новым сочувствием к сиделкам, на которых мы полагались в течение стольких лет. Я ужаснулась масштабам человеческой уязвимости в больницах и вдохновилась возможностью что-то с этим сделать. Но самый глубокий урок, который я усвоил, - это примат человеческого достоинства, которое не может учесть ни один набор данных и не может оптимизировать ни один алгоритм. Эта старая, знакомая беспорядочность, тянущаяся ко мне из-за обветренных морщин и усталых глаз человека, которого я знал лучше всех и о котором заботился больше всех.

Прошло более двух лет с тех пор, как моя мать направила мою карьеру по совершенно новому пути, просто спросив, чем ИИ может помочь людям. Взглянув на мою сферу деятельности ее глазами, я мгновенно расширил свою мотивацию за пределы любопытства, которое двигало мной все эти годы, как бы сильно оно ни было. Впервые я увидел в нем инструмент, с помощью которого можно творить добро и, возможно, даже уменьшить трудности, с которыми ежедневно сталкиваются такие семьи, как моя. Я впервые столкнулся с этикой искусственного интеллекта: для многих из нас эта идея только зарождалась, но быстро становилась неотвратимо реальной. И после карьеры, проведенной в пределах знакомой территории, я оказался в новом мире - настолько чужом, что без партнера я был бы беспомощен. Работа с Арни преподала мне два важных урока: величайшие успехи ИИ будут не только научными, но и гуманистическими, и их невозможно достичь без посторонней помощи.

Глава 11. Никто не контролирует

"Эй, это же "Фей-Фей", верно?"

Мужчина вежливо жестикулировал, когда я повернулась на звук его голоса.

"Я Дэйв, - сказал он, протягивая мне руку для рукопожатия. "Я слышал вас на днях в каком-то подкасте. Забыл, в каком. Знаете, моя фирма говорит об искусственном интеллекте без умолку, - продолжил он. "Только за последние несколько месяцев мы закрыли четыре раунда А, и все в этой области".

Я улыбнулся, но не был уверен, как еще реагировать. На дворе был 2014 год, и жаргон венчурного капитала мог заставить меня почувствовать себя аутсайдером в своей собственной области.

"Эй, вы знакомы с Джеффом?" Он повернулся, чтобы помахать рукой другому мужчине в другом конце комнаты, одетому, похоже, в точно такие же джинсы и флисовый пуловер.

"Джефф, подожди секунду! Я хочу познакомить тебя кое с кем! Джефф - вице-президент по разработке продукции в..."

"Итак, прошу внимания, мы можем начинать", - милостиво прервал новый голос с другого конца комнаты. "Я хочу поблагодарить всех за то, что пришли сегодня. Дошкольное образование - это большой шаг, и в этом году у нас запланировано много интересного для ваших детей".

"Поговорим позже!" - прошептал мужчина, устраиваясь на миниатюрном деревянном стульчике рядом с клеткой хомяка.

Кем бы мы, академики, ни считали ИИ и чем бы он ни стал, одно было неоспоримо: мы больше не можем его контролировать. Более десяти лет это была личная одержимость - слой мыслей, который незаметно накладывался на мое мировоззрение. Однако к середине 2010-х годов это стало достоянием общественности. Билборды вдоль шоссе 101 возвещали о наборе сотрудников в стартапы, занимающиеся разработкой искусственного интеллекта. Об этом писали журналы в приемной моего дантиста. Я слышал обрывки разговоров по автомобильному радио, когда переключал станции. И, очевидно, это была горячая тема на родительских собраниях в детских садах.

Мир становился сюрреалистичным. Мы с коллегами посвятили свою карьеру изучению науки об искусственном интеллекте, но внезапно столкнулись с чем-то похожим - у нас не было подходящего слова - на феномен ИИ. При всех загадках, которые таила в себе эта технология, ее внезапно растущее взаимодействие с промышленными предприятиями и правительствами, журналистами и комментаторами и даже широкой общественностью было не менее сложным. После десятилетий, проведенных in vitro, ИИ теперь был in vivo. Он был неугомонным, голодным и жаждущим исследований. И хотя я не решаюсь слишком явно уподоблять его живому организму (история нашей области изобилует попытками антропоморфизации, которые скорее вводят в заблуждение, чем помогают понять), он, несомненно, превратился в нечто новое.

Менее чем за год до этого новость о том, что Google наступает на пятки моей работе с Андреем, была шокирующей. Теперь же это казалось причудой. Просто стало очевидным, что университетские лаборатории, некогда бывшие альфой и омегой исследований в области ИИ, были не единственными учреждениями, продвигавшимися вперед. Мы делили переполненный ландшафт с такими технологическими гигантами, как Google, Microsoft и Facebook, стартапами по всему миру, прожорливой сетью венчурных капиталистов и даже разработчиками программного обеспечения в сообществе open-source, делились ли они кодом на платформах вроде GitHub или обсуждали последние разработки на форумах вроде Reddit.

Им было о чем поговорить.

В 2015 году Цзя и Ольга опубликовали ретроспективу результатов конкурса, в том числе результаты исследования, проведенного Андреем, который оценил человеческую ошибку при маркировке тысячи изображений примерно в 5,1 %. Хотя Андреем двигало простое любопытство, его выводы придали событию новый импульс: внезапно алгоритмы стали соревноваться не только друг с другом, но и с