На фоне такого воодушевления явные тревожные знаки остались незамеченными. 3 марта 2014 года Мэтт Шисслер получил приглашение присоединиться к видеоконференции с участием Facebook на тему опасных высказываний в интернете. Он поддерживал связь с профессором Гарварда Сьюзан Бенеш, которая опубликовала статьи о риторике ненависти и донесла свои опасения до членов команды Facebook по вопросам политики. Она и попросила Шисслера принять участие в разговоре и высказать свою точку зрения по Мьянме.

Когда он подключился к видеоконференции, его представили полудюжине сотрудников Facebook, нескольким ученым и независимым исследователям. Артуро Бежар, глава инженерного отдела Facebook, также был на связи. Ближе к концу встречи Шисслер взял слово и без прикрас поведал о том, как Facebook распространяет опасную исламофобию. Он подробно описал обезличивающую и внушающую опасения риторику, которую люди использовали в сообщениях, а также сфабрикованные фотографии и ложные сведения, которые широко распространялись.

Серьезность того, что описывал Шисслер, не дошла до представителей Facebook. Они, похоже, приравняли вредный контент в Мьянме к кибербуллингу: по их словам, Facebook хотела отбить у людей охоту запугивать кого-то на платформе, и они считали, что тот же набор инструментов, который они использовали для защиты младшеклассника от нападок старших школьников, можно применить, чтобы остановить буддийских монахов в Мьянме от распространения злонамеренных теорий заговора о мусульманах рохинджа. «Именно в таком ключе Facebook воспринимала эту угрозу. Они хотели разработать рамочный подход и применять его к любой проблеме, будь то задира в классе или призыв к убийству в Мьянме», – сказал один из ученых, принимавших участие в той беседе. Он вспоминает, что никто в Facebook, похоже, не пытался получить у Шисслера больше информации о ситуации в Мьянме.

Шисслер провел почти семь лет сначала на границе между Таиландом и Мьянмой, а затем в самой Мьянме. Он владел бирманским языком и изучал культуру и историю региона. То, что Шисслер и другие эксперты наблюдали в Мьянме, было гораздо опаснее, чем однократное замечание или единичный пост в Facebook. Мьянма была охвачена кампанией дезинформации против рохинджа, и эта кампания велась в Facebook.

В течение месяца после видеоконференции несколько сотрудников Facebook создали неофициальную рабочую группу для связи сотрудников Facebook в Менло-Парке с активистами в Мьянме. Активистам сказали, что это будет прямой канал связи, по которому можно предупреждать компанию о любых проблемах. Различные члены команд Facebook по вопросам политики, коммуникации и юридического отдела входили и выходили из группы в зависимости от обсуждаемых тем.

Всего четыре месяца спустя, в первую неделю июля, бирманские активисты получили возможность испытать этот канал связи на прочность, когда на платформе Facebook начали распространяться слухи, будто молодая буддийская женщина в Мандалае была изнасилована мусульманами. В течение нескольких дней по всей стране вспыхнули беспорядки. Два человека были убиты, а четырнадцать получили ранения145.

В дни, предшествовавшие беспорядкам, сотрудники НПО пытались предупредить компанию в закрытой группе Facebook, но им никто не ответил. Теперь людей начали убивать, а ответа по-прежнему не было.

На третий день беспорядков бирманское правительство решило закрыть Facebook для всей страны. По щелчку вся страна потеряла доступ к платформе. Шисслер связался с Facebook через свой контакт, чтобы узнать, знают ли они о проблеме, и почти сразу же получил ответ. «Когда нужно было ответить на наши сообщения о беспорядках, в Facebook молчали. Когда же дело дошло до того, что в стране отключили интернет и люди потеряли доступ в Facebook, они внезапно начали оперативно отвечать на сообщения, – вспоминает другой активист группы. – Это прекрасно продемонстрировало их приоритеты».

За неделю до беспорядков Шисслер зашел в группу Facebook, чтобы сообщить компании о начале травли на сайте пожилого человека. Этот человек работал в благотворительной организации и не был зарегистрирован на Facebook. Его сфотографировали, когда он доставлял рис и другие продукты питания в лагеря для перемещенных лиц рохинджа. Фотографией поделились на Facebook, где люди обвинили его в «помощи врагу» и пригрозили жестокой расправой.

Шисслер сообщил об этой фотографии через автоматизированные системы Facebook, но ему ответили, что она не содержит никаких изображений, вызывающих ненависть или угрозу. Когда он объяснил, что проблема заключается не в фотографии, а в постах и комментариях под ней, ответа не последовало. Тогда он попросил сотрудников Facebook принять меры. Спустя несколько недель ему ответили, что они ничего не смогут сделать, пока человек на фотографии сам не сообщит об этом в Facebook, что было невозможно.

Это был не последний случай, когда Шисслер обнаружил кафкианскую бюрократию в реакции компании на ситуацию в Мьянме. Через несколько месяцев после беспорядков и отключения интернета он узнал возможную причину такого медленного чтения сообщений и реагирования платформы на проблемы на местах. Один из членов PR-команды Facebook попросил совета у группы, когда журналист спросил его, как Facebook справляется с модерацией контента в такой стране, как Мьянма, где говорят более чем на ста языках. Многие в группе задавали тот же вопрос, но так и не получили ответа ни о количестве модераторов, ни о том, на скольких языках они говорят.

Что бы ни предполагали Шисслер и другие, все они были ошеломлены, когда сотрудник Facebook набрал в чате: «В отделе по работе с сообществом есть один представитель, говорящий по-бирмански», и назвал имя руководителя группы.

Этот руководитель присоединился к разговору, подтвердив: «У нас есть один подрядчик в дублинском офисе, который занимается бирманским сообществом».

Все начинало проясняться. Был только один модератор, которому было поручено следить за потоком контента, создаваемого в Мьянме, и этот человек говорил только по-бирмански. Многочисленные жалобы на преследования и разжигание ненависти оставались без ответа, потому что компания едва ли обращала на них внимание. Объем информации, который генерировался в Мьянме, был огромным, но Facebook не расширяла штат сотрудников, чтобы поспевать за ним.

«В Мьянме говорят, наверное, на ста языках, а диалектов еще больше, но Facebook решила, что достаточно бирманского, – сказал один активист из Мьянмы, который видел, как сообщение появилось в группе Facebook. – Это все равно что сказать: “Ну, у нас есть один носитель немецкого языка, поэтому мы можем контролировать всю Европу”».

После июльских беспорядков PR-команда Facebook выступила с официальным заявлением, дав обещание работать еще усерднее в целях защиты безопасности пользователей в Мьянме. В своей группе в Facebook сотрудники компании попросили Шисслера и других активистов помочь перевести их раздел «Общественнные стандарты» на бирманский язык. Бирманская неправительственная организация Phandeeyar сотрудничала с Facebook по вопросам перевода. Она также инициировала общественную кампанию по цифровым «пакетам информационных стикеров». Пользователи могли легко добавлять такие стикеры к постам, чтобы предотвратить распространение вредных высказываний. На стикерах были изображены мультяшные фигурки юной девушки, бабушки или плачущего ребенка с носом-пуговкой и румяными щечками. Они содержали сообщения «Думай, прежде чем поделиться» и «Не будь причиной насилия». Стикеры, по словам Facebook, помогали модераторам выявлять вредные посты и быстрее их удалять.