Що відомо
Офіційні особи США та їхні союзники заявили, що схема, яка стала можливою завдяки програмному забезпеченню на основі ШІ, була створена відділом цифрових медіа в складі RT, російського пропагандистського ЗМІ, контрольованого державою. Її розробкою, судячи з висновків, керував заступник головного редактора RT ще у 2022 році, а схвалював і фінансував її офіцер Федеральної служби безпеки Росії.
Дивіться також Шалені мільярди чи нікчемний дріб'язок: скільки грошей заробляє сьогодні індустрія ШІ
Дослідники, що працюють на розвідку Нідерландів та органи кібербезпеки Канади, виявили програмне забезпечення під назвою "Меліоратор". Воно вміє масово створювати "автентичні профілі в соціальних мережах", генерувати текстові повідомлення й зображення, а також перепощувати дезінформацію від інших профілів ботів. Влада США конфіскувала два домени, які використовувалися для створення адрес електронної пошти, необхідних для реєстрації акаунтів у мережі X, яка слугувала домівкою для ботів.
Однак Міністерство юстиції все ще перебуває в процесі пошуку більшості акаунтів, які використовувалися російськими ботами для поширення неправдивої інформації. X добровільно поділився з владою інформацією про всі виявлені акаунти і вже призупинив їхню роботу. Як зазначає The Washington Post, боти прослизнули крізь запобіжники X, оскільки вони можуть копіювати і вставляти OTP-коди зі своїх електронних поштових скриньок для входу в систему.
Багато профілів, створених за допомогою інструменту, видавали себе за американців, використовуючи імена, що "звучать по-американськи", і вказуючи американське місцезнаходження. Один профіль стверджував, що він належить користувачеві з Міннеаполіса, штат Міннесота, який приєднався до X у червні 2023 року. Цей акаунт розмістив відео, на якому російський диктатор Путін заявляє, що частини Польщі, України та Литви належать Росії після Другої світової війни. Інший профіль, ідентифікований як "Сью Вільямсон", що нібито проживає в Грешамі, штат Орегон, розмістив відео, в якому міститься брехня про кількість іноземних бійців, які перебувають у складі ЗСУ, а війна називається "територіальним конфліктом", який встановить "новий світовий порядок". Ці пости потім лайкали і репостили інші боти в мережі.
Варто зазначити, що хоча ця конкретна ботоферма й була обмежена платформою X, люди, які стояли за нею, як стверджується, планували розширити її на інші платформи, спираючись на аналіз владою програмного забезпечення Meliorator.
Штучний інтелект вступає в гру
Іноземні суб'єкти, які поширюють політичну дезінформацію, роками використовують соціальні мережі для поширення неправдивих новин. Але тепер вони додали до свого арсеналу штучний інтелект. Ще в травні OpenAI повідомила, що ліквідувала п'ять операцій прихованого впливу з Росії, Китаю та Ірану, які використовували її моделі для впливу на політичні результати.
Зазначається, що до цієї когорти належить і сам Meliorator.
Росія мала намір використовувати цю ботоферму для поширення згенерованої штучним інтелектом іноземної дезінформації, масштабуючи свою роботу за допомогою ШІ, щоб підірвати наших партнерів в Україні та вплинути на геополітичні наративи, вигідні російському уряду. ФБР прагне працювати з нашими партнерами і розгортати спільні, послідовні операції для стратегічного підриву наших найнебезпечніших супротивників і використання ними передових технологій в огидних цілях,
– заявив директор ФБР Крістофер Рей.
Коментар RT
Видання Bloomberg звернулося до пропагандистів з RT, щоб отримати коментар про цю ботоферму, але у відповідь отримало лише одну глузливу фразу: "Сільське господарство є улюбленим заняттям для мільйонів росіян".