Всего за три последних месяца соцсеть TikTok удалила около 80 млн загруженных пользователями видео из-за их несоответствия правилам платформы.

Их молниеносно удалил мощный искусственный интеллект с помощью модераторов, в 94,2% случаев их вообще никто не успел увидеть, заявили в компании.

17 млн роликов было удалено автоматически системами, определяющими “нарушающий правила контент”.

Похожая история и с другими соцсетевыми платформами – каждый день они удаляют тысячи часов контента.

Сегодня некоторые наблюдатели задаются вопросом – не удаляют ли соцсетевые компании таким образом свидетельства военных преступлений в Украине?

Шокирующий контент

К моменту, когда российский президент Владимир Путин решил начать военное вторжение в Украину, TikTok уже был невероятно популярен. Но украинский конфликт стал одним из решающих моментов в развитии платформы.

У некоторых роликов под связанными с Украиной хэштегами были миллиарды просмотров.

Однако в случае с Украиной речь, скорее всего, идет не только о “лайках”.

Любой ролик от украинских пользователей может стать недостающим кусочком “паззла” из улик, которые пригодятся трибуналам по военным преступлениям.

Однако в то же время они нарушают внутренние правила TikTok и других соцсетевых платформ. В правилах TikTok сказано, что на этой платформе ценится творческий подход, а не шок-контент.

Ролики, содержащие шокирующие, натуралистичные или жестокие образы и сцены, удаляются.

В эту категорию может попадать большинство роликов с потенциальными зверствами военных. Большинство – но не все.

“Огромная проблема”

Исследователям пока непонятно, какая часть контента из Украины удаляется такими компаниями, как TikTok, Meta, Twitter и YouTube.

“TikTok не так прозрачен, как некоторые другие медиакомпании, которые тоже слишком прозрачными не назовешь”, – говорит программный директор НКО Witness Сэм Грегори.

“Мы не знаем, что именно нам не показали, удалив контент из-за откровенности кадров – и потенциально потеряв улики, – отмечает он. – Это огромная проблема”.

Большие соцсетевые компании не впервые сталкиваются с вопросом о том, как обращаться с потенциальными доказательствами военных преступлений.

Похожие вопросы перед ними ставил еще сирийский конфликт.

НКО Human Rights Watch уже несколько лет призывает создать единую базу для видео из зон конфликтов, но безуспешно.

“Пока такой базы не существует”, – говорит старший исследователь конфликтов в HRW Белкис Вилль, описывая сложнейшие процедуры, которые должны соблюдать прокуроры для применения улик из соцсетей.

“Власти могут обратиться к соцсетевой компании, вынести решение суда или выдать повестку… но сейчас весь процесс устроен так, что никто полностью не представляет, где находится этот контент”, – говорит Вилль.

Для расследователей это настоящая проблема.

Даже до украинского конфликта люди, работающие над документированием военных преступлений, говорили о том, что модерация мешает сбору улик.

“Такая скорость обнаружения [контента, не соответствующего правилам соцсетей] значит, что правозащитники проигрывают гонку по обнаружению и сохранению новой информации”, – говорится в докладе на тему цифровой документации военных преступлений Университета Беркли.

Авторы этого доклада предлагают создать “цифровые хранилища” для сохранения и верификации контента, которыми будут заниматься не только соцсетевые компании, но и НКО и юристы.

Однако соцсетевые компании не хотят привлекать людей извне к модерации, что ставит исследователей в сложную ситуацию – часто они не знают, что именно удаляется, и не могут потребовать это сохранять.

Как выразился экс-министр обороны США Дональд Рамсфельд, говоря в 2002 году об оружии массового поражения в Ираке, это “известные неизвестные”.

Telegram: упрощенная политика модерации контента

Однако не все соцсетевые платформы прибегают к одним и тем же правилам при обработке шокирующего контента. Мессенджер “Телеграм” сыграл огромную роль в публикации и обмене видеозаписями из Украины.

У этой платформы довольно упрошенная политика модерации контента. Например, видео, которые были удалены “Твиттером” или “Фейсбуком”, можно будет найти в “Телеграме”.

“Пожалуй, наиболее ценные видео- и фотоматериалы, которые мы когда-либо получали, приходили к нам из “Телеграма”, – говорит Белкис Вилль.

У “Телеграма” есть еще одно важное преимущество.

Соцсетевые компании, такие как Facebook и Twitter, автоматически удаляют метаданные изображения или видео, которые служат в своем роде цифровым идентификатором, при помощи которого можно определить, где и когда была сделана видеозапись. Эти данные имеют ключевое значение для тех, кто занимается расследованиями.

Зашита метаданных с момента, когда происходящее попало на видео, до момента его демонстрации в суде иногда называется “цепочкой сохранения вещественных доказательств”.

Директор проекта Международной ассоциации юристов, направленного на сбор поддающихся проверке нарушений в области прав человека, Венди Беттс призывает людей снимать потенциальные эпизоды военных преступлений на специальное приложение – Eye Witness to Atrocities, позволяющее сохранить информацию в лучшем виде для потенциального использования в суде.

“Если какие-либо данные в процессе передачи контента от фотографа к расследователю и юристу были утеряны, эти кадры могут вызывать подозрения, потому что на одном из этапов могли быть внесены изменения”, – говорит она.

Однако все эти методы не могут полностью решить проблему.

У соцсетевых компаний нет единого цифрового хранилища: это означает, что важные улики могут быть утеряны.

Разные ответы

В некоторых случаях и вовсе неясно, сохраняют и документируют ли соцсетевые гиганты эти видеозаписи в принципе.

Би-би-си отправила запрос компаниям TikTok, Google, Meta и Twitter относительно их политики в области обработки и сохранения контента.

TikTok в ответ прислал свод правил по защите пользователей во время войны в Украине, однако не ответил ни на один из заданных вопросов.

Twitter и Google тоже не предоставили комментариев.

На вопросы Би-би-си ответила только компания Meta.

“Мы удаляем только тот тип контента, который героизирует насилие либо прославляет страдания людей, или когда контент чересчур шокирующий и жестокий – например, видеозапись с кадрами расчленения”, – заявил представитель компании.

“Что касается войны в Украине, мы изучаем способы сохранения этого и других типов контента после его удаления с платформы”, – добавил представитель Meta.

Джеймс Клейтон