Что известно
Официальные лица США и их союзники заявили, что схема, которая стала возможной благодаря программному обеспечению на основе ИИ, была создана отделом цифровых медиа в составе RT, российского пропагандистского СМИ, ее разработкой, судя по выводам, руководил заместитель главного редактора RT еще в 2022 году, а одобрял и финансировал ее офицер Федеральной службы безопасности России.
Смотрите также Бешеные миллиарды или ничтожная мелочь: сколько денег зарабатывает сегодня индустрия ИИ
Исследователи, работающие на разведку Нидерландов и органы кибербезопасности Канады, обнаружили программное обеспечение под названием "Мелиоратор". Оно умеет массово создавать "аутентичные профили в социальных сетях", генерировать текстовые сообщения и изображения, а также перепостить дезинформацию от других профилей ботов. Власти США конфисковали два домена, которые использовались для создания адресов электронной почты, необходимых для регистрации аккаунтов в сети X, которая служила домом для ботов.
Однако Министерство юстиции все еще находится в процессе поиска большинства аккаунтов, которые использовались российскими ботами для распространения ложной информации. X добровольно поделился с властями информацией обо всех обнаруженных аккаунтах и уже приостановил их работу. Как отмечает The Washington Post, боты проскользнули сквозь предохранители X, поскольку они могут копировать и вставлять OTP-коды из своих электронных почтовых ящиков для входа в систему.
Многие профили, созданных с помощью инструмента, выдавали себя за американцев, используя "звучащие по-американски", имена, и указывая американское местонахождение. Один профиль утверждал, что он принадлежит пользователю из Миннеаполиса, штат Миннесота, который присоединился к X в июне 2023 года. Этот аккаунт разместил видео, на котором российский диктатор Путин заявляет, что части Польши, Украины и Литвы принадлежат России после Второй мировой войны. Другой профиль, идентифицирован как "Сью Уильямсон", якобы проживающий в Грешах, штат Орегон, разместил видео, в котором содержится ложь о количестве иностранных бойцов, находящихся в составе ВСУ, а война называется "территориальным конфликтом", который установит "новый мировой порядок". Эти посты потом лайкали и репостили другие боты в сети.
Стоит отметить, что хотя эта конкретная ботоферма и была ограничена платформой X, люди, которые стояли за ней, как утверждается, планировали расширить ее на другие платформы, опираясь на анализ властями программного обеспечения Meliorator.
Искусственный интеллект вступает в игру
Иностранные субъекты, распространяющие политическую дезинформацию, годами используют социальные сети для распространения ложных новостей. Но теперь они добавили в свой арсенал искусственный интеллект. Еще в мае OpenAI сообщила, что ликвидировала пять операций скрытого влияния из России, Китая и Ирана, которые использовали ее модели для влияния на политические результаты.
Отмечается, что к этой когорте принадлежит и сам Meliorator.
Россия намеревалась использовать эту ботоферму для распространения сгенерированной искусственным интеллектом иностранной дезинформации, масштабируя свою работу с помощью ИИ, чтобы подорвать наших партнеров в Украине и повлиять на геополитические нарративы, выгодные российскому правительству. ФБР стремится работать с нашими партнерами и разворачивать совместные, последовательные операции для стратегического подрыва наших самых опасных противников и использования ими передовых технологий в отвратительных целях,
– заявил директор ФБР Кристофер Рэй.
Комментарий RT
Издание Bloomberg обратилось к пропагандистам из RT, чтобы получить комментарий об этой ботоферме, но в ответ получило лишь одну насмешливую фразу: "Сельское хозяйство является любимым занятием для миллионов россиян".