1 
Компания OpenAI опубликовала новый отчет о деятельности пользователей ChatGPT, которых она связывает с Китаем. По данным исследования, эти учетные записи использовали возможности чат-бота для создания контента, предназначенного для влияния на общественное мнение в США. Об этом пишет Engadget.
Смотрите также Новый ИИ от Anthropic получил особый режим безопасности после инцидента с хакерами
Как ChatGPT использовали для информационных кампаний?
В отчете говорится о двух отдельных группах аккаунтов. Первую OpenAI назвала "Data Center Bandwagon". Ее участники якобы обращались к ChatGPT для создания англоязычных тезисов, публикаций и графических материалов, в частности комиксов. Основная тема такого контента касалась влияния центров обработки данных для искусственного интеллекта на энергосистему США.
Сгенерированные материалы акцентировали внимание на том, что дата-центры увеличивают потребление электроэнергии, что якобы приводит к повышению счетов для населения. По информации OpenAI, авторы кампании выдавали себя за обычных американцев разного социального происхождения и распространяли созданный ChatGPT контент через социальные сети.
OpenAI считает, что за деятельностью этих аккаунтов могла стоять команда сотрудников частной китайской компании, которая работает с местными государственными заказчиками. Особое внимание исследователей привлек документ, который один из пользователей загрузил в ChatGPT. В нем якобы содержались цели кампании, методы воздействия на общественное мнение и рекомендации по созданию фейковых аккаунтов в соцсетях таким образом, чтобы избежать обнаружения.
Кроме американской аудитории, эта сеть также нацеливалась на китайцев, проживающих за рубежом. По данным OpenAI, участники кампании просили чат-бота создавать оскорбительные сообщения для преследования китайских диссидентов и политических комментаторов. Также они выдавали себя за китайских иммигрантов и специалистов, проживающих в США, и пытались побудить популярных интернет-комментаторов активнее критиковать политику Вашингтона.
Дискуссия о дата-центрах базировалась на реальных проблемах
В то же время OpenAI отмечает, что кампания не придумывала тему с нуля. Во время публикаций использовались ссылки на реальные новостные материалы об энергетических аукционах и росте потребления электроэнергии дата-центрами.
Вопрос нагрузки на энергосистему из-за бума искусственного интеллекта действительно активно обсуждается в США. По данным Bloomberg, в некоторых регионах, расположенных рядом с крупными дата-центрами, расходы на электроэнергию за последние пять лет выросли до 267 процентов. Причиной называют ситуацию, когда спрос на электроэнергию начинает превышать доступные мощности энергосетей.
Именно поэтому тема, которую эксплуатировали организаторы кампании, уже была предметом общественных споров и дискуссий задолго до появления соответствующего контента.
Другая группа аккаунтов, которую обнаружила OpenAI, использовала ChatGPT для создания текстов и изображений с критикой американской торговой и технологической политики.
В компании утверждают, что авторы кампании отмечали тезисы о том, что США якобы "предают своих союзников". Они также генерировали контент на разных языках, в частности на английском, итальянском, японском и традиционном китайском, чтобы охватить различные аудитории, включая жителей Тайваня. Отдельно OpenAI сообщила, что, что организаторы просили не включать в создаваемые изображения председателя Китая Си Цзиньпина.
Насколько эффективными были эти кампании?
Несмотря на масштабность подготовки, OpenAI не считает, что эти информационные операции достигли значительного успеха. Компания отмечает, что им не удалось получить существенное количество настоящих взаимодействий от пользователей социальных сетей или заметно изменить общественное мнение.
Впрочем, в отчете отмечается, что сам факт таких попыток заслуживает внимания. Как пояснили в OpenAI, значимость этих кампаний заключается в том, что их организаторы "пытались скрыто вмешаться в американскую дискуссию о будущем возможностей страны в сфере искусственного интеллекта, скрывая свою личность и мотивы".
В компании также отметили, что не могут объяснить, почему организаторы кампаний выбрали именно ChatGPT для создания контента, а не китайские аналоги вроде DeepSeek. В отчете сказано: "Мы не имеем возможности определить, что именно стало причиной такого выбора".