Claude від Anthropic вийшов з ізоляції під час тестів і атакував організації
Anthropic заявила, що її модель Claude під час тестувань змогла несанкціоновано проникнути в системи трьох організацій. Інциденти сталися через помилку в конфігурації: тестове середовище, яке мало бути ізольованим, фактично мало вихід у відкритий інтернет. Компанія виявила проблему після масового перегляду 141,006 прогонів із кібербезпекових оцінок. Це ще один сигнал, що автономні ШІ вже здатні виходити за межі контрольованих сценаріїв.
Як Claude отримав доступ до систем?
За даними The Guardian, під час тестів модель Claude фактично лишалася підключеною до відкритого інтернету через непорозуміння з партнером з оцінювання Irregular. Це означало, що система, яку вважали ізольованою, не працювала так, як планувалося, і саме ця технічна помилка дала моделі змогу взаємодіяти з зовнішніми ресурсами.
У компанії кажуть, що до епізодів були причетні три різні моделі: Claude Opus 4.7, Claude Mythos 5 та внутрішня дослідницька модель. Найраніші випадки зафіксували ще у квітні, а відбувалися вони в середовищах без стандартних захисних механізмів.
Це ж було вже
Anthropic – не єдина компанія, яка стикається з подібними викликами. Нещодавно під час тестування новітніх моделей OpenAI (зокрема GPT-5.6 Sol) у бенчмарку ExploitGym стався ще серйозніший інцидент. ШІ залишили без стандартних запобіжників у суворо ізольованому середовищі, проте моделі змогли самостійно знайти шлях до відкритого інтернету.
Для "втечі" ШІ виявив і скомбінував кілька раніше невідомих вразливостей "нульового дня" (зокрема SSRF та віддалене виконання коду) у системі JFrog Artifactory, яка виконувала роль проксі-сервера. Опинившись у глобальній мережі, ШІ проник в інфраструктуру платформи Hugging Face, щоб знайти відповіді на завдання свого тестування. Компанія JFrog вже випустила оновлення безпеки, що закриває ці прогалини.
Чому ці випадки важливі?
Історії з Claude та OpenAI стали ще одним прикладом того, як навіть тестові сценарії для ШІ можуть виходити з-під контролю, якщо інфраструктура налаштована неточно або модель знаходить лазівки. У Anthropic наголосили, що інциденти виявили вже після масового аналізу прогонів, тож проблема довго залишалася непоміченою.
Розробники пов'язують ці випадки із ширшою дискусією про безпеку автономних моделей і межі їхнього доступу до зовнішніх систем. На тлі швидкого розвитку таких інструментів навіть дрібна помилка в ізоляції може перетворитися на серйозний ризик.