Компанія OpenAI опублікувала новий звіт про діяльність користувачів ChatGPT, яких вона пов'язує з Китаєм. За даними дослідження, ці облікові записи використовували можливості чат-бота для створення контенту, призначеного для впливу на громадську думку в США. Про це пише Engadget.

Дивіться також Новий ШІ від Anthropic отримав особливий режим безпеки після інциденту з хакерами

Як ChatGPT використовували для інформаційних кампаній?

У звіті йдеться про дві окремі групи акаунтів. Першу OpenAI назвала "Data Center Bandwagon". Її учасники нібито зверталися до ChatGPT для створення англомовних тез, публікацій і графічних матеріалів, зокрема коміксів. Основна тема такого контенту стосувалася впливу центрів обробки даних для штучного інтелекту на енергосистему США.

Згенеровані матеріали акцентували увагу на тому, що дата-центри збільшують споживання електроенергії, що нібито призводить до підвищення рахунків для населення. За інформацією OpenAI, автори кампанії видавали себе за звичайних американців різного соціального походження та поширювали створений ChatGPT контент через соціальні мережі.

Google Хочете щодня читати оперативні та якісні новини Додайте 24 Канал у вибрані в Google Додати

OpenAI вважає, що за діяльністю цих акаунтів могла стояти команда співробітників приватної китайської компанії, яка працює з місцевими державними замовниками. Особливу увагу дослідників привернув документ, який один із користувачів завантажив до ChatGPT. У ньому нібито містилися цілі кампанії, методи впливу на громадську думку та рекомендації щодо створення фейкових акаунтів у соцмережах таким чином, щоб уникнути виявлення.

Крім американської аудиторії, ця мережа також націлювалася на китайців, які проживають за кордоном. За даними OpenAI, учасники кампанії просили чат-бота створювати образливі повідомлення для переслідування китайських дисидентів і політичних коментаторів. Також вони видавали себе за китайських іммігрантів та фахівців, які проживають у США, і намагалися спонукати популярних інтернет-коментаторів активніше критикувати політику Вашингтона.

Дискусія про дата-центри базувалася на реальних проблемах

Водночас OpenAI зазначає, що кампанія не вигадувала тему з нуля. Під час публікацій використовувалися посилання на реальні новинні матеріали про енергетичні аукціони та зростання споживання електроенергії дата-центрами.

Питання навантаження на енергосистему через бум штучного інтелекту дійсно активно обговорюється у США. За даними Bloomberg, у деяких регіонах, розташованих поруч із великими дата-центрами, витрати на електроенергію за останні п'ять років зросли до 267 відсотків. Причиною називають ситуацію, коли попит на електроенергію починає перевищувати доступні потужності енергомереж.

Саме тому тема, яку експлуатували організатори кампанії, вже була предметом суспільних суперечок і дискусій задовго до появи відповідного контенту.

Інша група акаунтів, яку виявила OpenAI, використовувала ChatGPT для створення текстів і зображень із критикою американської торговельної та технологічної політики.

У компанії стверджують, що автори кампанії наголошували на тезах про те, що США нібито "зраджують своїх союзників". Вони також генерували контент різними мовами, зокрема англійською, італійською, японською та традиційною китайською, щоб охопити різні аудиторії, включаючи жителів Тайваню. Окремо OpenAI повідомила, що організатори просили не включати до створюваних зображень голову Китаю Сі Цзіньпіна.

Наскільки ефективними були ці кампанії?

Попри масштабність підготовки, OpenAI не вважає, що ці інформаційні операції досягли значного успіху. Компанія зазначає, що їм не вдалося отримати суттєву кількість справжніх взаємодій від користувачів соціальних мереж або помітно змінити громадську думку.

Втім, у звіті наголошується, що сам факт таких спроб заслуговує на увагу. Як пояснили в OpenAI, значущість цих кампаній полягає в тому, що їхні організатори "намагалися приховано втрутитися в американську дискусію про майбутнє можливостей країни у сфері штучного інтелекту, приховуючи свою особу та мотиви".

У компанії також зазначили, що не можуть пояснити, чому організатори кампаній обрали саме ChatGPT для створення контенту, а не китайські аналоги на кшталт DeepSeek. У звіті сказано: "Ми не маємо можливості визначити, що саме стало причиною такого вибору".