Опасения по поводу манипуляций растут на фоне нашествия ботов в социальных сетях

Менее чем через двадцать четыре часа после убийства Charlie Kirk в Юте социальная сеть X была переполнена сообщениями с призывами к мести и упоминаниями о гражданской войне. Тысячи постов, часто написанных идентичными фразами, указывают на левое движение как на виновника. Столкнувшись с этим наплывом, несколько исследователей подозревают искусственное усиление. За этими призывами к насилию некоторые аккаунты демонстрируют признаки автоматизированных сетей.

Призывы к гражданской войне с первых часов

Через несколько часов после объявления об убийстве Charlie Kirk, произошедшем во время мероприятия в Солт-Лейк-Сити (Юта), платформа X (бывший Twitter) была наводнена враждебными сообщениями с призывами к гражданской войне или расправе над американскими левыми, в то время как ЕС готовит значительные санкции против данной социальной сети.

Эти посты, часто повторяющиеся дословно, быстро привлекли внимание своим воинственным тоном и стремительным распространением. Фразы вроде «Это война», «Левые за это заплатят» или «Вы даже не представляете, что вас ждет» многократно повторялись, исходя из аккаунтов с очень похожими и непривлекательными профилями.

Политолог Бранислав Сланчев, профессор Университета Сан-Диего, так охарактеризовал ситуацию на X: «мы увидим множество аккаунтов, фактически подталкивающих к гражданской войне в США. Среди них — главный провокатор Elon Musk, а также армия российских и китайских ботов, а также их ревностные ретрансляторы на Западе».

Многие пользователи и исследователи отметили сильную концентрацию профилей, соответствующих повторяющимся критериям, что указывает на алгоритмическое или автоматизированное усиление контента:

• Фотографии профиля, сгенерированные ИИ или взятые из фотобанков;

• Стандартные биографии, часто ограниченные несколькими ключевыми словами (Christian, MAGA, Patriot и др.);

• Систематические упоминания вроде «NO DMs» в профилях многих аккаунтов, участвующих в распространении;

• Патриотические баннеры и визуалы, американские флаги или цитаты консервативных деятелей;

• Очень низкая история активности, за исключением публикаций, связанных с этим событием;

• Очень плотное время публикаций, схожие сообщения публикуются несколько раз.

Эти элементы по отдельности не являются формальным доказательством автоматизации. Однако их накопление и однородность усиливают подозрения в дезинформационной или скоординированной операции по усилению на X, использующей шок, вызванный убийством Kirk.

Подозрения в алгоритмической манипуляции без формальных доказательств

Несмотря на многочисленные признаки возможной скоординированной манипуляции, ни один государственный орган, центр кибербезопасности или крупная платформа на сегодняшний день не подтвердили существование скоординированной кампании ботов, связанной с этим событием.

Тем не менее, несколько исследований напоминают, что иностранные операции по усилению поляризующих дискурсов, такие как “Spamouflage” (сеть, приписываемая Китаю) или “Doppelgänger” (про-российская кампания влияния), уже нацеливались на США через сети фейковых аккаунтов и контент, сгенерированный ИИ.

В 2024 году расследование Global Witness выявило 45 аккаунтов с обычным внешним видом, которые в одиночку сгенерировали более 4 миллиардов показов вокруг поляризующего контента.

Быстрое развитие технологий, связанных с искусственным интеллектом, теперь делает такие кампании труднее обнаружимыми. Публикации с человеческим тоном, безупречной орфографией и размещённые в правдоподобное время теперь могут производиться в промышленных масштабах.

Исследование, опубликованное в Plos One в феврале прошлого года, также указывает, что с момента покупки X Elon Musk объем враждебных высказываний увеличился, при этом доля неаутентичных аккаунтов не уменьшилась.

В то время как ООН всё чаще предупреждает о deepfake, масштаб и агрессивность этой новой волны призывов к гражданской войне на X могут быть лишь первыми признаками более крупной битвы, ведущейся с помощью алгоритмов и серверов. Если версия о внешнем вмешательстве еще предстоит подтвердить, она подчеркивает фундаментальную истину: современный политический хаос разгорается не только на избирательных участках или на улицах, но и, возможно, прежде всего — за кулисами кода.