OpenAI разоблачила пропагандистские кампании Китая и России, в которых использовали ChatGPT
- OpenAI обнаружила много пропагандистских кампаний из Китая, России, Ирана и Северной Кореи, которые использовали ChatGPT для распространения своей пропаганды в интернете.
- Операции активно использовали ChatGPT для создания постов, комментариев и внутренней документации, а также для имитации дискуссий на платформах социальных сетей.
- OpenAI удалось заблокировать сети, которые злоупотребляли инструментами искусственного интеллекта, остановив большинство операций на раннем этапе.
Китай, Россия, Иран и Северная Корея злоупотребляют инструментами искусственного интеллекта для распространения своей пропаганды в интернете. OpenAI сообщила об обнаружении десятка пропагандистских кампаний и заблокировала сети, которые скрыто использовали для этого ChatGPT.
Как искусственный интеллект стал инструментом теневых операций
На самом деле эта история не нова. Еще в феврале OpenAI закрыла аккаунты, которые занимались разработкой китайских инструментов цифрового наблюдения. Эти инструменты отслеживали антикитайские настроения в соцсетях и передавали собранную информацию правительственным структурам. Согласно новому отчёту, по меньшей мере четыре недавно заблокированные операции происходят из Китая. Злоумышленники использовали ChatGPT для создания постов, комментариев, внутренней документации и даже писем к журналистам и политикам. Платформы, на которые были направлены кампании, включали Reddit, TikTok, Facebook и X, сообщает 24 Канал.
Смотрите также Студентка требует вернуть деньги за обучение, потому что застукала профессора за использованием ChatGPT
Одна из китайских операций, названа "Sneer Review", активно использовала ChatGPT для формирования коротких англоязычных и китайскоязычных комментариев, которые размещались на платформах. Сообщения касались политики США, действий администрации Трампа, а также критиковали видеоигру, в которой игроки выступают против Коммунистической партии Китая. Чтобы сымитировать настоящие дискуссии, эта кампания генерировала как публикации, так и ответы на них, то есть фактически общалась сама с собой.
Примечательно, что участники операции создавали и внутреннюю документацию с помощью ChatGPT – отчеты о проведенных действиях, которые иллюстрировали тактики, темы и эффективность кампании. Отчет OpenAI отмечает, что поведение в соцсетях полностью соответствовало описанным в этих отчетах сценариям.
Еще одна китайская операция задействовала лиц, которые выдавали себя за журналистов и аналитиков. Они создавали посты, фальшивые биографии для аккаунтов на X, переводили материалы с китайского и анализировали данные.
Также выявлены случаи написания писем сенаторам США и создания маркетинговых материалов с предложениями проведения влиятельных кампаний и вербовки агентов.
Россия, Иран и другие
- Кроме Китая, OpenAI разоблачила еще несколько сетей злоупотребления – в частности из России и Ирана.
- Также были обнаружены спам-рассылки от филиппинской маркетинговой компании и фейковые предложения работы, связанные с Камбоджей.
- Наконец, упоминается подозрительная схема трудоустройства, имеющая признаки северокорейской активности.
Главный исследователь группы OpenAI Бен Ниммо отметил, что эти операции охватывали широкий спектр платформ и методов, но в большинстве случаев их удалось остановить на раннем этапе. По его словам, несмотря на использование мощных инструментов ИИ, злоумышленникам не удалось достичь широкого влияния.