2 
Як Claude отримав доступ до систем?
За даними The Guardian, під час тестів модель Claude фактично лишалася підключеною до відкритого інтернету через непорозуміння з партнером з оцінювання Irregular. Це означало, що система, яку вважали ізольованою, не працювала так, як планувалося, і саме ця технічна помилка дала моделі змогу взаємодіяти з зовнішніми ресурсами.
У компанії кажуть, що до епізодів були причетні три різні моделі: Claude Opus 4.7, Claude Mythos 5 та внутрішня дослідницька модель. Найраніші випадки зафіксували ще у квітні, а відбувалися вони в середовищах без стандартних захисних механізмів.
Це ж було вже
Anthropic – не єдина компанія, яка стикається з подібними викликами. Нещодавно під час тестування новітніх моделей OpenAI (зокрема GPT-5.6 Sol) у бенчмарку ExploitGym стався ще серйозніший інцидент. ШІ залишили без стандартних запобіжників у суворо ізольованому середовищі, проте моделі змогли самостійно знайти шлях до відкритого інтернету.
Для "втечі" ШІ виявив і скомбінував кілька раніше невідомих вразливостей "нульового дня" (зокрема SSRF та віддалене виконання коду) у системі JFrog Artifactory, яка виконувала роль проксі-сервера. Опинившись у глобальній мережі, ШІ проник в інфраструктуру платформи Hugging Face, щоб знайти відповіді на завдання свого тестування. Компанія JFrog вже випустила оновлення безпеки, що закриває ці прогалини.
Чому ці випадки важливі?
Історії з Claude та OpenAI стали ще одним прикладом того, як навіть тестові сценарії для ШІ можуть виходити з-під контролю, якщо інфраструктура налаштована неточно або модель знаходить лазівки. У Anthropic наголосили, що інциденти виявили вже після масового аналізу прогонів, тож проблема довго залишалася непоміченою.
Розробники пов'язують ці випадки із ширшою дискусією про безпеку автономних моделей і межі їхнього доступу до зовнішніх систем. На тлі швидкого розвитку таких інструментів навіть дрібна помилка в ізоляції може перетворитися на серйозний ризик.