ПРАГА. В войне с дезинформацией иногда трудно определить, кто именно враг. В содействии распространению фальшивок онлайн обвиняют журналистов, политиков, правительства и даже бабушек с дедушками.
Но хотя ни одна из этих групп не является совершенно невинной, реальный противник более прозаичен. Как следует из свидетельских показаний о Facebook, с которыми выступила в конце прошлого года бывший сотрудник компании Фрэнсис Хауген, дезинформация становится доступной благодаря алгоритмам социальных сетей.
С тех пор как Facebook появился в 2004 году, эта компания превратилась из студенческой социальной сети в монстра слежки, который разрушает социальную сплочённость и демократию во всём мире. Facebook собирает тонны пользовательских данных, в том числе такие интимные факты, как вес тела и статус беременности, чтобы составить карту социальной ДНК своих пользователей. А затем компания продаёт эту информацию любому (от производителей шампуней до разведслужб России и Китая), кто хочет «микро-таргетировать» информацию для её 2,9 млрд пользователей. Тем самым Facebook даёт возможность третьим лицам манипулировать умами и торговать «человеческими фьючерсами»: моделями прогнозирования решений, которые, скорее всего, примут люди.
По всему миру Facebook используется для того, чтобы сеять недоверие к демократическим институтам. Его алгоритмы способствуют актам насилия в реальном мире – от геноцида в Мьянме до вербовки рекрутов террористами в Южной Америке, Западной Африке и на Ближнем Востоке. Ложь о нарушениях на выборах в США, которая распространялась с подачи бывшего президента Дональда Трампа, наводняла Facebook накануне мятежа 6 января. А в Европе компания Facebook сделала возможной извращённую попытку белорусского авторитарного лидера Александра Лукашенко воспользоваться мигрантами в качестве оружия против Евросоюза.
В Чешской республике дезинформация, исходящая из России и распространяемая в этой соцсети, затопляет чешское киберпространство – и всё это, благодаря зловредным кодам Facebook. Как выяснилось в ходе анализа, проведённого моей компанией, средний чешский гражданин в 25 раз чаще видит дезинформацию о вакцинах от Covid-19, чем средний американец. Ситуация настолько печальна, а действия правительства выглядят настолько неумелыми, что чехи стали полагаться на гражданское общества (в том числе волонтёров, которых называют «чешские эльфы»), чтобы отслеживать это влияние и противодействовать ему.
Попытки смягчить угрозу Facebook для демократии пока что жалко проваливаются.
В Чехии компания Facebook создала партнёрство с «Агентством Франс-Пресс» (AFP) для выявления вредного контента. Но с всего лишь одним сотрудником на неполной ставке и месячной квотой в десять сомнительных постов подобные усилия являются лишь каплей в океане дезинформации. Опубликованное газетой The Wall Street Journal «досье Facebook» подтверждает, что эта компания предпринимает действия в отношении «всего лишь 3-5% случаев разжигания ненависти».
Facebook предоставила пользователям возможность отказываться от индивидуализированной и политической рекламы, но это только символический жест. Некоторые организации, например, Ranking Digital Rights, призывают эту платформу отключить таргетирование рекламы в базовых настройках. Однако этого недостаточно. Микротаргетинг, лежащий в основе бизнес-модели Facebook, использует искусственный интеллект, чтобы привлекать внимание пользователей, максимально увеличивать их активность, отключать критическое мышление.
Во многих смыслах микротаргетинг – это цифровой эквивалент опиоидного кризиса. Конгресс США предпринял решительные меры, что защитить людей от опиоидов с помощью законов, которые призваны расширить доступ к лечению, необходимым знаниям и альтернативным лекарствам. Для того чтобы покончить с наркотической зависимостью мира от фейковых новостей и лжи, законодатели обязаны признать факт кризиса из-за дезинформации и предпринять аналогичные действия, начав с надлежащего регулирования микротаргетинга.
Проблема в том, что за пределами Facebook никто не знает, как работают сложные алгоритмы этой компании, и могут потребоваться месяцы, если не годы, чтобы их декодировать. Это означает, что у регуляторов не будет иного выхода, кроме как положиться на сотрудников Facebook, чтобы они вели их по этой «фабрике». Для стимулирования такого сотрудничества Конгресс обязан предложить безусловный гражданский и уголовный иммунитет и финансовую компенсацию.
Регулирование алгоритмов соцсетей может показаться сложной задачей, но она легка в сравнении с ещё более серьёзными цифровыми угрозами, которые маячат на горизонте. О дипфейках – манипулировании видео и фото с помощью искусственного интеллекта с целью повлиять на общественное мнение – практически не говорят в Конгрессе. Законодатели пока что беспокоятся об угрозах, которые исходят от традиционного контента, однако дипфейки создают ещё более серьёзные проблемы для частной жизни людей, для демократии и национальной безопасности.
А тем временем Facebook становится ещё более опасным. Как выяснилось в ходе недавнего расследования, проведённого журналом «MIT Technology Review», компания Facebook финансирует дезинформацию, «выплачивая миллионы рекламных долларов на содержание мастеров кликбейта» через свою рекламную платформу. Планы гендиректора компании Марка Цукерберга создать метавселенную путём «конвергенции физической, дополненной и виртуальной реальности» должны напугать регуляторов в любой стране. Просто представьте тот потенциальный вред, который могут причинить никем нерегулируемые алгоритмы искусственного интеллекта, если позволить им создать новую иммерсивную реальность для миллиардов людей.
В своём заявлении после недавних слушаний в Вашингтоне Цукерберг повторил предложение, которое уже делал раньше: регулируйте нас. «Я не считаю, что частные компании должны сами принимать все решения, – написал он в Facebook. – Мы привержены выполнению наилучшим образом той работы, которую мы можем делать, но на определённом уровне правильным органом для оценки компромиссов в вопросах социального равенства является наш демократически избранный Конгресс».
Цукерберг прав: Конгресс действительно обязан действовать. Но его компания тоже обязана действовать. Она может показать Конгрессу, какое социальное неравенство она продолжает создавать, и как она это делает. Пока Facebook не откроет свои алгоритмы для внимательной проверки (при поддержке собственных экспертов компании), в войне с дезинформацией будет невозможно выиграть, а демократии во всём мире будут оставаться на милости у беспринципной отрасли ренегатов.
Автор: Франтишек Врабель — генеральный директор и основатель Semantic Visions, пражской аналитической фирмы, которая собирает и анализирует 90% новостного онлайн-контента со всего мира.
Источник: Project Syndicate, США
