Широкий спектр угроз и автономизация атак
Аналитическая группа по исследованию угроз выявила и пресекла вредоносную деятельность в период с декабря 2025 года по август 2026 года в семи ключевых направлениях, пишет Anthropic в своем отчете. Эксперты зафиксировали попытки использования моделей Claude Haiku, Sonnet и Opus для проведения кибератак, информационных операций, массовой слежки, разработки обычного оружия и попыток создания биологических угроз.
Злоумышленники использовали искусственный интеллект в качестве автономного координатора действий, что значительно ускорило выполнение сложных технологических задач.
Поскольку модели становятся все более мощными, связанные с ними риски будут расти, если разработчики искусственного интеллекта и защитники общества не будут принимать меры по повышению их безопасности,
– прокомментировали в отчете специалисты по безопасности Anthropic.
Кибератаки и похищение корпоративных данных
В сфере киберугроз искусственный интеллект полностью уравнял возможности отдельных хакеров и высокоресурсных государственных группировок. Злоумышленники интегрировали Claude в многоуровневые автономные агенты, такие как PentAGI, автоматизировав каждый этап кибератаки.
В частности, российская шпионская группировка GTG-20006, связанная с Midnight Blizzard, создала автономный рабочий процесс для подготовки фишинга, взлома почтовых ящиков и перехвата трафика. Они провели атаку на более 20 организаций в сфере обороны и дипломатии в Украине и Европе, похитив документацию о военных беспилотниках. Когда защитные системы обнаруживали вредоносный код, искусственный интеллект самостоятельно перестраивал его, чтобы обойти обнаружение.
Финансово мотивированные преступники из группировки ShinyHunters (GTG-50014) использовали 10 серверов AWS EC2 для сканирования 1,8 миллиона мобильных приложений Android на наличие утечек секретных ключей. Они похитили API-ключи к системам искусственного интеллекта у клиентов Anthropic и осуществили серию масштабных взломов. В результате одной из атак преступники похитили более 1 терабайта данных, включая номера банковских карт и национальные идентификаторы.
В ходе другой атаки на поставщика программного обеспечения злоумышленники похитили более 2,1 тысячи токенов Azure AD из 40 корпоративных систем всего за 34 часа.
Операции влияния и создание фейковых новостных сетей
Злоумышленники активно использовали Claude для манипулирования общественным мнением и создания автоматизированных фабрик контента:
- Во Франции компания LKM Company создала коммерческую сеть из 70 фейковых новостных сайтов и 250 аккаунтов в сети X, сгенерировав 8 913 статей на 20 языках для влияния на аудиторию в США, Бразилии, Франции и Конго.
- А в Малайзии турецкая компания BBS Bilisim Teknolojileri использовала более 1 000 искусственных аккаунтов и анализировала данные о выборах для микротаргетинга граждан по религиозным и этническим признакам.
- Российские государственные СМИ, включая "Спутник" и "РИА Новости", внедрили Claude непосредственно в редакционные процессы для автоматического создания новостных лент, телевизионных титров и искаженных аналитических материалов о политиках в Молдове и Латинской Америке.
- В Бангладеш один оператор управлял программой, которая сгенерировала 1,5 тысячи вымышленных заголовков и 300 дезинформационных статей для целевых трансляций среди сельского населения.
Массовая слежка и цифровые репрессии
Спецслужбы и коммерческие поставщики шпионского ПО применяли модели для автоматизации слежки за диссидентами и оппозиционерами:
- В Мали независимый консультант по поручению государственной разведывательной службы создал на базе Claude платформу "Lakana 360", которая осуществляла полный перехват звонков и сообщений для 25 миллионов SIM-карт всех мобильных операторов страны без судебных разрешений.
- В Иране две структуры создали вредоносное расширение для браузера Firefox под названием "al-Najm al-thāqib" для сбора персональных данных пользователей социальных сетей и интегрировали их в центральную базу слежения.
- Китайские государственные органы с помощью ИИ составляли ежедневные разведывательные сводки о правозащитниках, религиозных общинах и участниках акций протеста в Гонконге и Ванкувере.
- Одновременно другая группа собирала данные из более чем 100 групп в WhatsApp и Telegram для вербовки уйгуров в Сирии посредством перевода и реального инструктажа.
Разработка оружия и биологические риски
Аналитики Anthropic пресекли шесть попыток использования Claude в сфере обычного оружия:
- В Йемене инженерный центр разработал программное обеспечение для системы наведения управляемой ракеты, проведя ее реальные испытания.
- В Китае исследователи создали спецификацию системы управления огнем для подводного противоторпедного оружия и модуль наведения для подавления систем ПВО Patriot и THAAD.
- В России группа разработчиков использовала Claude Code для создания автономного роя боевых FPV-дронов с алгоритмами самостоятельного выбора целей и детонации.
В области биологии специалисты заблокировали несколько проектных заявок на гранты. Исследователи из военно-гражданских институтов пытались задействовать ИИ для планирования экспериментов по усилению функций вирусов чикунгунья и птичьего гриппа, способных передаваться между млекопитающими. Несмотря на попытки обойти защитные фильтры через посредников, системы безопасности Anthropic своевременно перехватили вредоносные запросы и заблокировали доступ.
Мошенничество и промышленный шпионаж посредством дистилляции моделей
Также аналитики обнаружили, что китайская компания создала более 20 приложений для знакомств с 4,7 тысячами ИИ-персонажей на базе Claude. Для выманивания средств система общалась с 25 тысячами реальных пользователей, сгенерировав 2,36 миллиона сообщений с соотношением три искусственных бота на одного реального человека.
В заключение компания раскрыла факт похищения интеллектуальных способностей Claude китайскими лабораториями искусственного интеллекта. Компании Alibaba, Moonshot AI, DeepSeek, Zhipu и Xiaomi создали сети из тысяч фальшивых аккаунтов, через которые пропускали миллионы запросов для обучения собственных моделей Qwen, Kimi и MiMo.
В ходе этой переадресации китайские сервисы раскрыли компании Anthropic конфиденциальные данные своих пользователей, включая коды программ, коммерческие тайны фармацевтических компаний и внутренние полицейские базы данных.
На основе выводов отчета Anthropic внедрила новые алгоритмы защиты для надежного противодействия киберугрозам в будущем.