рамок. ИИ должен стать таким же преданным человечеству, каким он всегда был для науки. Он должен оставаться сотрудничающим и почтительным в лучших академических традициях, но не бояться противостоять реальному миру. Звездный свет, в конце концов, многогранен. Его белое сияние, будучи разгаданным, открывает все цвета, которые можно увидеть.

 

Глава 12. Следующая северная звезда

Было приятно вернуться.

Несмотря на нейтральные цвета и мягкое освещение, аудитория Nvidia Auditorium кипела энергией. Лекционный зал был забит до отказа, и жаждущие слушатели сидели на полу, на лестнице и у задней стены, с ноутбуками на коленях и между скрещенными ногами. Сотни других наблюдали за происходящим удаленно, в общей сложности около шестисот человек. Это была весна 2019 года и набор на курс CS231n: Convolutional Neural Networks for Visual Recognition" взорвался с момента его появления тремя годами ранее. Этот предмет быстро стал моим любимым.

Стоя у кафедры, я вспомнил, какой трепет испытывал, будучи первокурсником в Принстоне, спеша занять место в этом переполненном зале. Я вспомнил, как замирал от предвкушения, когда стихали разговоры и появлялся профессор, мгновенно покоряя класс своим, как мне казалось, сверхчеловеческим присутствием. Теперь я понимаю, насколько человечны наши ученики - возможно, они достигли больших успехов, но в то же время они уязвимы и ошибаются так, как я и представить себе не мог, будучи студентом. Тем не менее, классная комната остается для меня необычайно особенным местом, а моменты, подобные этому, просто потрясают воображение.

Для многих присутствовавших сегодня это будет первое знакомство с идеями , которые я так долго любил, и мне была оказана честь их представить. Мой опыт обучения у Боба вернулся ко мне - мистеру Сабелле, каким я его тогда знал, - и напомнил мне, какой глубокий след может оставить учитель в жизни молодого человека. Нам доверено делиться особым видом радости. Трепет знаний, прилив новых возможностей. Конечно, это чувство не может длиться долго, поскольку в конечном итоге оно осложняется карьерой, публикациями, собеседованиями, а может быть, и венчурным капиталом и прогнозами доходов. Но в такие моменты разум - это все, что имеет значение. Возможно, некоторые люди в этой комнате собирались открыть для себя что-то, за чем стоит гнаться.

И все же я должен был признать, как много изменилось с тех пор, как я в последний раз сидел за этими креслами, и как много я увидел за прошедшие годы. Конференц-залы Google. Центры обработки данных размером со склад. Больницы. Паническая прогулка по Вашингтону. ИИ по-прежнему оставался моей любимой наукой, но теперь это была уже не только наука. Кем бы ни суждено было стать этим студентам - исследователями, дизайнерами продуктов, руководителями высшего звена, политиками или кем-то еще, чего я даже не мог себе представить, - они унаследуют огромную ответственность.

"Общий знаменатель всего этого, - сказал я вслух, - будь то устранение предвзятости в наших данных или защита пациентов в больницах, - это то, как наши технологии относятся к людям. В частности, к их достоинству. Именно к этому слову я постоянно возвращаюсь. Как ИИ может, прежде всего, уважать человеческое достоинство? Из этого вытекает очень многое".

Это был не самый отрепетированный момент, и некоторым слушателям он мог показаться немного левым. Но это шло от сердца, и я знал, что это не последний раз, когда я говорю об этих проблемах.

"ИИ, ориентированный на человека", - сказал я, наконец-то озвучив термин, над которым размышлял уже несколько месяцев. "Именно так я назвал эту идею. Надеюсь, это словосочетание будет точно описывать всю мою карьеру. И я надеюсь, что она будет иметь значение для всех вас в ближайшие годы".

Как обычно бывает в первый день курса, образовалась очередь из желающих задать последующие вопросы. Но эта очередь тянулась от пюпитра в передней части комнаты до задней стены.

"Здравствуйте, профессор Ли", - спросил студент, стоящий в начале очереди. "Мне очень нравится глубокое обучение. Я прочитал все, что мог".

"Я тоже в восторге от этого! Ты выбрал отличную сферу деятельности".

"Итак, вы создали ImageNet, верно?"

"Мне много помогали, но да", - сказал я с улыбкой. Узнаваемость имени - не лучшая причина для того, чтобы заниматься наукой, но положительные отзывы всегда ценятся.

"Да, мне просто интересно, были ли у вас... ну, не знаю, какие-нибудь другие идеи с тех пор?"

Ой. Вот тебе и повышение самооценки.

В этом, конечно, и заключается очарование студентов. Они, как правило, неуклюжие собеседники, но у них есть умение перейти к делу. У меня был соблазн поделиться парой идей, над которыми работала моя лаборатория, но в последний момент я изменил курс.

"На самом деле, я думаю, что да. Все еще находится на ранних стадиях, но я настроен оптимистично. На самом деле, я говорил об этом буквально минуту назад".

"О, вы имеете в виду... человеко-ориентированный ИИ?"

"Ориентирован на человека", - ответил я со смехом. "По крайней мере, я так думаю. Над названием тоже еще работаю".

"Хм..." Студент почесал голову. "Звучит интересно, но это не то, что я ожидал услышать на подобном занятии. Наверное, это заставляет меня задуматься... какое отношение этика и общество имеют к написанию кода и прочему?"

 

Здание Gates Computer Science Building кажется мне одновременно величественным и скромным. Благодаря высоким потолкам и мраморным полам в его вестибюле царит эхо, как в музее, а сводчатые, размером с театр, классы отдают должное силе идей. Но лучше всего мне знакомы тесные коридоры верхних этажей, где находится моя лаборатория, а также SAIL. Теперь в этом здании, в отремонтированном крыле на первом этаже, расположилось нечто новое: штаб-квартира Стэнфордского института искусственного интеллекта, ориентированного на человека, или Стэнфордского института искусственного интеллекта (Stanford HAI).

Меня радует символизм такой явно гуманистической организации в самом сердце одного из старейших в стране факультетов информатики. Но амбиции Stanford HAI - стать центром междисциплинарного сотрудничества - не просто поэтичны, они уже воплощаются в жизнь. В любой день я обязательно встречусь с кем-нибудь вроде Дэна Хо из Стэнфордской школы права, Роба Райха, профессора политологии, Мишель Элам, профессора гуманитарных наук, или Сурии Гангули, физика-теоретика струн, ставшего вычислительным нейробиологом. Каждый из них с готовностью согласился стать частью HAI, работая непосредственно со студентами и исследователями в области ИИ, изучая пересечения между нашими областями и делясь опытом, который они приобрели за время своей карьеры и жизни. Мы даже привлекли партнеров из-за пределов кампуса, включая Эрика Бринйолфссона, известного экономиста из Массачусетского технологического института, который переехал