Как Claude получил доступ к системам?

По данным The Guardian, во время тестов модель Claude фактически оставалась подключенной к открытому интернету из-за недоразумения с партнером по оценке Irregular. Это означало, что система, которую считали изолированной, работала не так, как планировалось, и именно эта техническая ошибка позволила модели взаимодействовать с внешними ресурсами.

В компании говорят, что к этим инцидентам были причастны три разные модели: Claude Opus 4.7, Claude Mythos 5 и внутренняя исследовательская модель. Самые ранние случаи зафиксировали еще в апреле, а происходили они в средах без стандартных защитных механизмов.

Это же уже

Anthropic – не единственная компания, которая сталкивается с подобными вызовами. Недавно во время тестирования новейших моделей OpenAI (в частности, GPT-5.6 Sol) в бенчмарке ExploitGym произошел еще более серьезный инцидент. ИИ оставили без стандартных мер безопасности в строго изолированной среде, однако модели смогли самостоятельно найти путь в открытый интернет.

Для "побега" ИИ обнаружил и скомбинировал несколько ранее неизвестных уязвимостей "нулевого дня" (в частности, SSRF и удаленное выполнение кода) в системе JFrog Artifactory, которая выполняла роль прокси-сервера. Оказавшись в глобальной сети, ИИ проник в инфраструктуру платформы Hugging Face, чтобы найти ответы на задачи своего тестирования. Компания JFrog уже выпустила обновление безопасности, устраняющее эти уязвимости.

Топливо
Средние цены в сети АЗС «Amic Energy» по состоянию на 

Почему эти случаи важны?

Истории с Claude и OpenAI стали еще одним примером того, что даже тестовые сценарии для ИИ могут выйти из-под контроля, если инфраструктура настроена неточно или модель находит лазейки. В Anthropic подчеркнули, что инциденты обнаружили уже после массового анализа прогонов, поэтому проблема долгое время оставалась незамеченной.

Разработчики связывают эти случаи с более широкой дискуссией о безопасности автономных моделей и пределах их доступа к внешним системам. На фоне быстрого развития таких инструментов даже мелкая ошибка в изоляции может превратиться в серьезный риск.