обнаружила формулы. «Когда я смотрел некое смешное видео, раньше наши машины просто рекомендовали: „Вот еще одно точно такое же“, — сказал репортеру один из директоров YouTube. — Но эта модель сети выявляет другие смешные видео, которые в чем-то похожи, но не идентичны этому — может быть, даже на другие темы. Сеть умеет видеть закономерности, которые не столь очевидны». Внутри Google программисты говорили, что нейросеть оказывает зрителям важную услугу — выкладывает драгоценные самоцветы из архивов. (В конце концов, каталоги музыкальных клипов были огромными.) Сотрудники работали над выявлением «шлюзовых видео», которые заставляли людей возвращаться к ним раз за разом. «Тогда вы на крючке, — вспоминал Джек Поулсон, инженер, работавший над новой системой. — Я всегда чувствовал себя немного странно, если возвращался». YouTube добавил к своим компонентам больше моделей машинного обучения; в итоге, как было продемонстрировано на собрании Rapture, модели уже управляли всем сайтом.

Менгеринк начал сомневаться. Машинному обучению он посвятил достаточно времени, чтобы знать: большая часть недостатков машин обусловлена не тем, что они не умеют мыслить по-человечески, а тем, что мыслят слишком по-человечески. Искусственный интеллект может быть сексистским, расистским и жестоким, как и мы. «Если в чем-то заложена предвзятость, машина ее откопает и будет проявлять на каждом шагу», — сказал он позже.

ИГИЛ* оставался головной болью. В 2015 году правоохранительные органы США провели около девятисот активных расследований в отношении сторонников террористов во всех пятидесяти штатах. На YouTube регулярно проводились беседы о том, что делать с видеоматериалами, проповедующими радикальный ислам. Безусловно, ожидалось, что четкий машинный интеллект окажет поддержку: модераторы изо всех сил старались анализировать бесконечные волны видеоматериалов, и машина, легко заметив флаг террористов в середине клипа, помогла бы людям принимать решения намного быстрее. Но Менгеринк обнаружил, что на YouTube есть материалы, которые выглядят столь же радикально, хотя направлены против ислама. Или против иудаизма или чернокожих общин. Он был мусульманином и знал, что большинство исповедующих его веру не используют слово «джихад», кроме случаев, когда речь идет о джихаде аль-нафс, что значит «борьба с пороками души». Он искал «джихад» на YouTube. Лента, как и следовало ожидать, была заполнена видеороликами о терроризме, но он прокрутил немного вниз и нашел клипы от Чайной партии и видеоблогеров, которые смотрят вам прямо в глаза наподобие Молинье. Они были озлоблены и, хотя старались не злоупотреблять уродливыми оскорблениями и не призывать к откровенному насилию, такого рода материалы YouTube удалял. Если бы нейросеть была настроена на максимальное время просмотра (а так оно и было), такие видео получали бы отличные результаты.

YouTube начал фильтровать видео, пропагандирующие исламистский террор, ограничивая определенные клипы по возрасту или удаляя их. На одной из встреч Менгеринк предложил аналогичный подход к другим формам радикализма: похоронить их, снижая частоту появления в поиске и рекомендациях. «Пусть их будет до идиотизма трудно отыскать», — предложил он. Если кто-то смотрел материалы, открыто критикующие чернокожих американцев, почему бы не предложить другие видео, показывающие историю чернокожих в позитивном свете? Таких было предостаточно. Ему сказали, что такие изменения могут выглядеть как противодействие свободе слова, чего Google хотела избежать, и могут нарушить неприкосновенность поиска. Он неоднократно слышал возражение: «Это не очень гуглово». А где данные, подтверждающие сей аргумент? Еще одна женщина, работающая на YouTube, впоследствии вспомнила, как однажды опротестовала некое решение, чем вызвала обвинения со стороны коллег: «Ты не позитивная, не гугловая». Когда-то позицию Менгеринка называли жуткой.

Его коллеги знали о нежелательных видеороликах и не особенно их любили. Они начали обсуждать идеи о «скамье штрафников» для неблагонадежных авторов, таких как сторонник теорий заговора Алекс Джонс, чье ток-шоу InfoWars набирало на YouTube огромную аудиторию. Некоторые смотрели его ради развлечения; другие, возможно, купились на его идеи. Машины не отличали этих зрителей друг от друга. Одного соискателя, который хотел устроиться в YouTube на руководящую должность, на собеседования спросили: «Что нам делать с Алексом Джонсом?»

Правильный ответ на такие вопросы заключался в том, что YouTube должен минимизировать помехи, а рекомендации по настройке воспринимались как помехи. Да, это отражало твердую веру в свободу слова, но и такое же сильное ощущение того, что компания не готова навязывать моральное суждение свободной воле своих зрителей. «Если люди это смотрят, — сказали Менгеринку, — таков их выбор».

Просматривая сайт, он понял, в какой точке логика этого аргумента разваливается и перестает работать. «Когда дело касается детей, все обстоит иначе», — сказал он.

Глава 21. Мальчик и его игрушка

Самый звездный автор второго десятилетия существования YouTube родился в 2011 году. Всего через три года и пять месяцев после рождения — когда мама сняла на видео, как мальчик распаковывает свою новую игрушку, — он появился на YouTube.

Ryan ToysReview: «Ребенок играет с игрушками Lego Duplo Number Train». 16 марта 2015 года. 15:13

«Привет, Райан!» — «Привет, мамочка!» — «Какую игрушку ты хочешь сегодня?» Райан Кадзи присел на корточки в проходе между стеллажами магазина Target. Он очарователен — пухлые щечки, как у бурундучка, ямочки, большие коричневые блюдца вместо глаз. Он уже трогает два красных игрушечных грузовика, но когда мама задает вопрос, мальчик отворачивается от них. Вот он выбрал игрушку. Мы следуем за ним из магазина к дому, где ребенок проводит оставшиеся 14 минут видеоролика: распаковывает поезд Lego по частям, тренируется считать до десяти и водит поезд по ковру.

Родители маленького Райана познакомились в колледже в Техасе, когда YouTube был еще в зачаточном состоянии. Отец Райана Шион, родившийся в Японии, обожал битбоксинг ютуберов и сблизился со своей будущей женой Лоэнн благодаря занудной карточной игре прото-Интернета Magic: The Gathering. Когда их первенец Райан научился смотреть видео на YouTube, его увлекли маленькие герои роликов — в частности, мальчик EvanTubeHD, который специализировался на разборке продуктов Angry Birds. Позже родители Райана говорили, что они сняли ролик про сына, чтобы показать семью, живущую за границей.

После дебюта на YouTube родители за шесть месяцев загрузили более ста видеороликов с Райаном. В основном он играл с одной или двумя игрушками (паровозиком Томасом или набором Play-Doh). Он стал золотым в июле, когда Лоэнн сняла своего малыша за игрой с «ГИГАНТСКИМ яйцом-сюрпризом Lightning McQueen Egg Surprise with 100+ Disney Cars Toys». Это видео позаимствовало ингредиенты у «безликих» — страшно популярных каналов с распаковкой: там было и название с мешаниной из ключевых слов, и множество игрушек, и знакомая франшиза. Гигантское красное яйцо Райана (в котором он легко поместился бы и сам),