Почему появление ИИ-эксплойтов становится вызовом для мировой безопасности?

Злоумышленники начали переходить от простых экспериментов к полноценному использованию генеративных моделей в своих операциях. Наиболее резонансным случаем стало обнаружение эксплойта нулевого дня, созданного искусственным интеллектом по заказу криминальной группировки для массового взлома систем. Этот инструмент реализовали в форме Python-скрипта, предназначенного для обхода двухфакторной аутентификации (2FA) в популярном инструменте системного администрирования с открытым кодом, сообщает Gizmochina.

Смотрите также Иранские хакеры атаковали ведущего южнокорейского производителя электроники

Анализ кода этого эксплойта подтвердил его искусственное происхождение. Скрипт содержал большое количество обучающих комментариев, галлюцинированную оценку уязвимости по шкале CVSS и имел идеальную структуру, характерную для больших языковых моделей.

Хотя фронтирные модели ИИ все еще пытаются разобраться со сложной логикой авторизации предприятий, они имеют все большую способность выполнять контекстуальное рассуждение, эффективно считывая намерения разработчика,
– прокомментировали свой отчет аналитики аналитики Google Threat Intelligence Group.

Google Не полагайтесь на случай в ленте Добавьте 24 Канал в избранное в Google Добавить

Это позволяет ИИ находить логические ошибки, которые остаются незаметными для традиционных автоматизированных сканеров, поскольку код выглядит функционально правильным, но содержит стратегические просчеты в безопасности.

Кроме независимых киберпреступников, активный интерес к ИИ проявляют государственные хакерские группировки:

  • В частности, группы, связанные с КНР и КНДР, используют специализированные наборы данных для поиска уязвимостей, отметило издание Tom's Hardware. Например, группа UNC2814 заставляла модель Gemini действовать как старший аудитор по безопасности или эксперт по бинарному коду C/C++ для анализа прошивок устройств TP-Link.
  • Группировка APT45 отправляла тысячи повторяющихся запросов для автоматизации анализа известных уязвимостей (CVE) и проверки прототипов атак, что было бы невозможно сделать вручную в таких масштабах.
  • Российские хакеры также не остаются в стороне, используя ИИ для создания вредоносного программного обеспечения, способного избегать обнаружения. Семейства вирусов CANFAIL и LONGSTREAM содержат большое количество сгенерированного ИИ "мусорного" кода, который служит дымовой завесой для маскировки настоящих вредоносных функций.

Объяснительный характер комментариев вокруг кода-приманки указывает на то, что злоумышленник просил модель намеренно создать большое количество инертного кода для обфускации,
– сообщается в отчете Google Cloud Blog.

Отдельную угрозу представляет автономное вредоносное ПО, такое как PROMPTSPY для Android. Оно использует API Gemini для самостоятельной навигации по интерфейсу смартфона, интерпретации действий пользователя и выполнения команд без прямого вмешательства человека. PROMPTSPY даже способен перехватывать биометрические данные и воспроизводить жесты разблокировки экрана, чтобы вернуть доступ к устройству.

Сам ИИ также становится целью хакеров

В то же время ИИ становится не только инструментом нападения, но и целью. В 2026 году участились атаки на цепочки поставок ИИ-компонентов. Группировка "TeamPCP" (также известная как UNC6780) взламывала популярные репозитории GitHub, такие как LiteLLM, чтобы внедрять воровство учетных данных и похищать ключи доступа к облачным сервисам AWS. Это создает риски для организаций, которые интегрируют ИИ-модели в свои внутренние процессы, не проверяя безопасность сторонних библиотек.

Как этому противостоять?

Для противодействия этим угрозам Google внедряет защитные механизмы на основе ИИ. Агент Big Sleep помогает находить неизвестные уязвимости в программном обеспечении еще до того, как их используют хакеры, а инструмент CodeMender автоматически предлагает исправления для критических ошибок в коде.

Таким образом, искусственный интеллект становится главным полем битвы, где скорость и аналитические возможности моделей определяют, кто победит в следующем раунде цифрового противостояния.

Смотрите также Главный завод Apple атаковали хакеры: похищены важные документы и проекты устройств

Вам также будет интересно узнать: киберпространство в эпоху ИИ – почему искусственный интеллект превращает нашу безопасность в кошмар

Искусственный интеллект резко изменил кибербезопасность, причем сразу в двух направлениях. С одной стороны, компании получили новые инструменты для поиска ошибок в коде, анализа атак и защиты систем. С другой – те же технологии начали активно использовать хакеры, государственные кибергруппировки и киберпреступники, как заметил 24 Канал. Именно поэтому специалисты все чаще говорят, что генеративный ИИ стал одним из крупнейших катализаторов современных кибератак.

Главная проблема заключается в масштабировании. Ранее для создания убедительного фишингового письма, написания вредоносного кода или поиска уязвимости нужны были или опытные специалисты, или много времени. Теперь значительную часть этой работы может выполнять ИИ. Он позволяет автоматизировать атаки, ускорять разведку целей и генерировать код буквально за секунды.

Персонализированный хакинг

Особенно сильно это сказалось на фишинге и социальной инженерии. Как напоминает 24 Канал, большие языковые модели могут создавать грамотно написанные сообщения без типичных ошибок, которые ранее выдавали мошенников. Они также анализируют информацию о жертве из открытых источников и формируют персонализированные сообщения. В результате фишинговые письма все больше напоминают реальную корпоративную переписку.

Исследователи также предупреждают об использовании ИИ для автоматизации массовых кампаний социальной инженерии, говорится в исследовании, которое опубликовали на arXiv.

Кроме текстов, ИИ активно используют для создания дипфейков – поддельных голосов и видео. Уже зафиксированы случаи, когда преступники имитировали голоса руководителей компаний, чтобы убедить сотрудников перевести деньги или предоставить доступ к системам. Такие инструменты значительно повышают эффективность атак, особенно в корпоративной среде.

ИИ пишет вирусы

Еще одна проблема – генерация вредоносного программного обеспечения. Современные модели могут помогать в написании вирусов, бэкдоров, скриптов для обхода защиты и инструментов сокрытия кода. Хотя большинство крупных ИИ-сервисов имеют ограничения, хакеры регулярно пытаются обходить их через так называемые jailbreak-методы.

В 2025 – 2026 годах исследователи уже описывали случаи, когда модели помогали создавать целые фишинговые кампании даже пользователям без серьезных технических навыков, говорится в другом исследовании на arXiv.

ИИ ищет уязвимости

Отдельное направление – поиск уязвимостей. Именно здесь ИИ стал особенно опасным. Автоматизированные системы могут замечать пробелы, на которые человек никогда не обратил бы внимания. Это позволяет хакерам буквально прочесывать интернет в поиске жертв, пока сами преступники пьют кофе.

Разработчики ИИ пытаются противодействовать

На этом фоне технологические компании начали активно развивать "оборонительный" ИИ. Одна из главных идей заключается в том, чтобы использовать модели для автоматического поиска ошибок в коде быстрее, чем это делают хакеры. Именно поэтому в последнее время появляются специализированные системы для анализа безопасности программного обеспечения.

Одним из самых громких примеров стало сотрудничество Mozilla и Anthropic. Сначала модель Claude Opus 4.6 за две недели проанализировала примерно 6000 файлов Firefox и нашла 22 уязвимости, среди которых 14 были классифицированы как критические или высокого уровня опасности. Mozilla подтвердила подлинность проблем и исправила их в Firefox 148, пишет TechSpot.

Позже ситуация стала еще более масштабной. Mozilla использовала экспериментальную модель Anthropic Mythos Preview для полного анализа кодовой базы Firefox 150. По данным компании, система нашла 271 уязвимость, причем большинство из них были настоящими, а не ложными сработками. Среди найденных проблем были баги в WebAssembly, IndexedDB, DNS-обработке, механизмах изоляции процессов и даже в компонентах, где ошибки оставались незамеченными более 15 лет.

Mozilla заявила, что ИИ работал не просто как "чат-бот". Для него создали целый агентный конвейер: модель получала доступ к системам тестирования, анализировала код, формировала гипотезы об ошибках, автоматически создавала тестовые сценарии и проверяла результаты. Именно это позволило резко уменьшить количество ложных срабатываний.

Подобные системы сейчас разрабатывают и другие компании. Google, OpenAI, Anthropic и крупные кибербезопасные фирмы инвестируют в модели, способные автоматически анализировать код, находить логические ошибки и выявлять опасные конфигурации. В то же время сами исследователи признают, что возникает новая гонка вооружений: те же инструменты могут использовать и хакеры, пишет Axios.