Claude от Anthropic вышел из изоляции во время тестов и совершил атаку против организаций
Компания Anthropic заявила, что ее модель Claude в ходе тестирования смогла несанкционированно проникнуть в системы трех организаций. Инциденты произошли из-за ошибки в настройках: тестовая среда, которая должна была быть изолированной, фактически имела выход в открытый интернет. Компания обнаружила проблему после массового анализа 141 006 прогонов в рамках оценок кибербезопасности. Это еще один сигнал о том, что автономные ИИ уже способны выходить за пределы контролируемых сценариев.
Как Claude получил доступ к системам?
По данным The Guardian, во время тестов модель Claude фактически оставалась подключенной к открытому интернету из-за недоразумения с партнером по оценке Irregular. Это означало, что система, которую считали изолированной, работала не так, как планировалось, и именно эта техническая ошибка позволила модели взаимодействовать с внешними ресурсами.
В компании говорят, что к этим инцидентам были причастны три разные модели: Claude Opus 4.7, Claude Mythos 5 и внутренняя исследовательская модель. Самые ранние случаи зафиксировали еще в апреле, а происходили они в средах без стандартных защитных механизмов.
Это же уже
Anthropic – не единственная компания, которая сталкивается с подобными вызовами. Недавно во время тестирования новейших моделей OpenAI (в частности, GPT-5.6 Sol) в бенчмарке ExploitGym произошел еще более серьезный инцидент. ИИ оставили без стандартных мер безопасности в строго изолированной среде, однако модели смогли самостоятельно найти путь в открытый интернет.
Для "побега" ИИ обнаружил и скомбинировал несколько ранее неизвестных уязвимостей "нулевого дня" (в частности, SSRF и удаленное выполнение кода) в системе JFrog Artifactory, которая выполняла роль прокси-сервера. Оказавшись в глобальной сети, ИИ проник в инфраструктуру платформы Hugging Face, чтобы найти ответы на задачи своего тестирования. Компания JFrog уже выпустила обновление безопасности, устраняющее эти уязвимости.
Почему эти случаи важны?
Истории с Claude и OpenAI стали еще одним примером того, что даже тестовые сценарии для ИИ могут выйти из-под контроля, если инфраструктура настроена неточно или модель находит лазейки. В Anthropic подчеркнули, что инциденты обнаружили уже после массового анализа прогонов, поэтому проблема долгое время оставалась незамеченной.
Разработчики связывают эти случаи с более широкой дискуссией о безопасности автономных моделей и пределах их доступа к внешним системам. На фоне быстрого развития таких инструментов даже мелкая ошибка в изоляции может превратиться в серьезный риск.