OpenAI викрила таємні пропагандистські кампанії Китаю та Росії, в яких використовували ChatGPT
- OpenAI виявила багато пропагандистських кампаній з Китаю, Росії, Ірану та Північної Кореї, які використовували ChatGPT для поширення своєї пропаганди в інтернеті.
- Операції активно використовували ChatGPT для створення постів, коментарів та внутрішньої документації, а також для імітації дискусій на платформах соціальних медіа.
- OpenAI вдалося заблокувати мережі, які зловживали інструментами штучного інтелекту, зупинивши більшість операцій на ранньому етапі.
Китай, Росія, Іран і Північна Корея зловживають інструментами штучного інтелекту для поширення своєї пропаганди в інтернеті. OpenAI повідомила про виявлення десятка пропагандистських кампаній і заблокувала мережі, які приховано використовували для цього ChatGPT.
Як штучний інтелект став інструментом тіньових операцій
Насправді ця історія не нова. Ще в лютому OpenAI закрила акаунти, які займалися розробкою китайських інструментів цифрового спостереження. Ці інструменти відстежували антикитайські настрої в соцмережах і передавали зібрану інформацію урядовим структурам. Згідно з новим звітом, щонайменше чотири нещодавно заблоковані операції походять із Китаю. Зловмисники використовували ChatGPT для створення постів, коментарів, внутрішньої документації та навіть листів до журналістів і політиків. Платформи, на які були спрямовані кампанії, включали Reddit, TikTok, Facebook та X, повідомляє 24 Канал.
Дивіться також Студентка вимагає повернути гроші за навчання, бо застукала професора за використанням ChatGPT
Одна з китайських операцій, названа "Sneer Review", активно використовувала ChatGPT для формування коротких англомовних і китайськомовних коментарів, які розміщувалися на платформах. Повідомлення стосувалися політики США, дій адміністрації Трампа, а також критикували відеогру, в якій гравці виступають проти Комуністичної партії Китаю. Щоб зімітувати справжні дискусії, ця кампанія генерувала як публікації, так і відповіді на них, тобто фактично спілкувалася сама з собою.
Примітно, що учасники операції створювали й внутрішню документацію за допомогою ChatGPT – звіти про проведені дії, які ілюстрували тактики, теми та ефективність кампанії. Звіт OpenAI зазначає, що поведінка в соцмережах повністю відповідала описаним у цих звітах сценаріям.
Ще одна китайська операція задіяла осіб, які видавали себе за журналістів і аналітиків. Вони створювали пости, фальшиві біографії для акаунтів на X, перекладали матеріали з китайської та аналізували дані.
Також виявлено випадки написання листів сенаторам США та створення маркетингових матеріалів із пропозиціями проведення впливових кампаній і вербування агентів.
Росія, Іран та інші
- Крім Китаю, OpenAI викрила ще кілька мереж зловживання – зокрема з Росії та Ірану.
- Також були виявлені спам-розсилки від філіппінської маркетингової компанії та фейкові пропозиції роботи, пов’язані з Камбоджею.
- Нарешті, згадується підозріла схема працевлаштування, що має ознаки північнокорейської активності.
Головний дослідник групи OpenAI Бен Німмо зазначив, що ці операції охоплювали широкий спектр платформ і методів, але в більшості випадків їх вдалося зупинити на ранньому етапі. За його словами, попри використання потужних інструментів ШІ, зловмисникам не вдалося досягти широкого впливу.