Hotel Brooklyn Bridge, шикарный новый нью-йоркский отель класса эколюкс, из которого открывался прекрасный вид на горизонт Манхэттена. Ютуберы собрались в его богато украшенном бальном зале на третий ежегодный саммит авторов, где компания решила объясниться со своими звездами.

Это событие было похоже не столько на саммит, сколько на восстание. Грин прибыл в бальный зал, думая, что большинство коллег-ютуберов понимают шаткое экономическое положение компании. Нет. В передней части бального зала стояла Воджицки со своими главными заместителями Робертом Кинклом и Нилом Моханом, и авторы с пристрастием спрашивали их, почему одна из богатейших компаний мира не смогла «остановить кровотечение». Местный сотрудник позже вспоминал об этом как о «пронзительном, тревожном моменте». Одна подающая надежды молодая ютуберша сказала руководителям, что ее расходы теперь стали выше доходов от публикации видео. «Как мне выживать?» — спросила она.

Прорывная звезда YouTube Кейси Нейстат наблюдал за происходящим с места в бальном зале. Неутомимый режиссер и шоумен, он регулярно вел видеоблог с участием своей семьи, публикуя хорошо проработанные мини-фильмы, чистые, как дневной Nickelodeon. В одном ролике он катается на сноуборде по улицам Манхэттена после снежной бури в ярко-красном снежном костюме с логотипом YouTube. Его коллега-видеоблогер Филип Дефранко назвал Нейстата «золотым мальчиком YouTube». В 36 лет «золотой мальчик» был старшим государственным деятелем, и молодые авторы приходили к нему в отчаянии. На саммите Нейстат спросил, почему компания не сделала больше, чтобы оградить своих авторов от непостоянных рекламодателей. Руководители, казалось, были озадачены этими вопросами, но утверждали, что YouTube тоже пострадал от финансовых сил, находящихся вне его контроля. «Они реагировали на настроение зала наилучшим образом, на какой были способны», — вспоминал Нейстат.

Внутри YouTube часто описывал своих основных участников — зрителей, авторов и рекламодателей — как три ножки табурета, равные и прочные. Теперь табурет шатался. Через пять лет после того, как YouTube позволил всем авторам зарабатывать, система стала напоминать слабый, неустойчивый эксперимент, которым она на самом деле и была. Во время всего этого кризиса YouTube исправил другую проблему, над которой работал Джейми Бирн, — выпустил около 12 миллионов видео из ограниченного режима. Но поскольку бойкот разрушил бизнес авторов YouTube, это казалось пирровой победой. «Вы сосредоточены на одной области и упускаете то, что просачивается в другие, — сказал Бирн позже. — Может быть, это пожар. Это требует большого внимания. Если вы от чего-то отвлекаетесь, это в конечном счете превращается в гораздо бóльшую проблему».

Следующий пожар не заставил себя долго ждать.

Глава 26. Подкрепление

Пятничный утром в июне 2017 года, через месяц после саммита авторов, около десятка сотрудников YouTube ввалились в унылую подвальную комнату без окон в отеле Лос-Анджелеса. Они приехали на Stream, выездное мероприятие для всех сотрудников YouTube; его участники выполняли игровые упражнения по сплочению команды, наслаждались частным выступлением Снупа Догга и тематическим парком Гарри Поттера неподалеку. В ту пятницу Воджицки вместе со своими заместителями, публицистами и ведущим инженером вытащила нескольких невезучих людей с праздничного мероприятия, чтобы обсудить отрезвляющую новость: у YouTube «Желтый код» тревоги.

Тала Бардан[207] чувствовала себя немного не в своей тарелке. Она была молодой сотрудницей Google, не привыкшей к встречам с руководителями. Выросшая в арабо-американской семье, Бардан планировала получить докторскую степень, но подруга предложила ей обратиться в компанию, которая отчаянно нуждалась в сотрудниках, свободно говорящих по-арабски. Бардан попала за границу в команду YouTube VE — сокращенное название тех, кто выполнял задания по сдерживанию насильственного экстремизма. VE была частью подразделения «Доверие и безопасность», занимающегося проблемным контентом в Интернете. Один коллега сравнивал это подразделение с пожаром в мусорном баке — столько там было бесхозяйственности и организационного хаоса. Коллеги Бардан называли его по-своему — «фабрика выгорания»; люди, изо дня в день подвергающиеся воздействию такого интенсивного материала, долго не держались. В начале своей работы Бардан не была особенно знакома с Google или плотскими уголками Интернета. Во время тренировки ей показали фетиш-клип: мужчина в спортзале снимал свои пальцы ног, которые изгибались под звуки мастурбации. Она узнала о «видео с Берега Слоновой Кости» — компрометирующих кадрах, которые люди загружали, чтобы вымогать деньги. «Я выросла в консервативной мусульманской семье, — вспоминала она. — Я была не готова». Она усвоила принцип YouTube в отношении речи: видео может быть включенным, если оно не демонстрирует крайнего насилия и не подстрекает к нему. «Это платформа, — сказали ей. — Мы не несем ответственности за то, что на ней происходит».

В ту июньскую пятницу этот подход претерпел изменения. Неделей ранее трое исламистских экстремистов убили восемь человек на Лондонском мосту. Вскоре появились сообщения о том, что одного из убийц вдохновил американский священнослужитель[208], которого он смотрел на YouTube. Руководство компании, ошеломленное этой новостью, решило, что «Доверие и безопасность» нуждается в капитальном ремонте. Бардан пригласили на встречу «Желтый код», потому что она была в числе трех сотрудников YouTube, которые занимались анализом насильственного экстремизма и говорили по-арабски. Она слушала план: YouTube выгонит радикальных священнослужителей и выделит больше инженеров для создания строгих систем искусственного интеллекта, чтобы искоренить как можно больше исламистского экстремизма. В те выходные команда Бардан немедленно приступила к просмотру видеороликов, в то время как коллеги продолжили веселиться. Одного коллегу разбудили в 2:00 ночи, чтобы он разобрался с особенно неприятным видео на арабском языке; модератор смотрел клип и отвечал на звонки в ванной, чтобы не разбудить соседа по комнате. Менеджер Бардан наградил ее кексами за работу в выходные. На той неделе в штаб-квартире команда разработчиков политики YouTube сократила список провокаторов до четырнадцати: все это были мужчины-мусульмане, которым запрещалось публиковать что бы то ни было. До этого YouTube использовал тест на абсурдистское мышление, демонстрируя свой подход «руки прочь»: «Если бы у Усамы бен Ладена был кулинарный канал, это было бы прекрасно». Теперь это не к месту. Все, что связано с бен Ладеном, удалялось. Некоторые видеозаписи проповедей — например, выступления Ахмада Мусы Джибриля, который, по слухам, вдохновил нападавшего на людей на Лондонском мосту, — попадали на «скамью штрафников» YouTube. Это было грубое решение. Новые машинные цензоры тоже работали грубо: сотрудник, знавший арабский язык, вспомнил, как однажды просматривал код системы и обнаружил, что условия ее фильтрации изначально включали арабское слово, обозначающее Аллаха.

Позже руководители YouTube вспоминали встречу «Желтый код» как критический поворотный момент, когда YouTube решил применить свой сверхчеловеческий интеллект для модерации, а не только для рекомендаций. Бардан по-другому запомнит те выходные. Для нее и нескольких коллег это были дни, когда