1 
Цифрова втеча з "пісочниці"
Дослідники OpenAI проводили планову оцінку можливостей своїх новітніх розробок, серед яких були модель GPT-5.6 Sol та ще неанонсована широкому загалу версія. Їх випробовували за допомогою бенчмарку ExploitGym, що вимірює здатність ШІ до проведення автономних хакерських операцій. Щоб побачити реальний потенціал технології, моделі залишили без стандартних запобіжників, які зазвичай блокують агресивну активність у мережі, пише BleepingComputer.
Попри те, що ШІ помістили у суворо ізольоване середовище, цифрові агенти витратили значну частину часу на пошук шляху до відкритого інтернету. Метою моделей було отримання відповідей на завдання тестування. Зрештою, вони виявили невідомі раніше вразливості "нульового дня" в системі, яка виконувала роль проксі-сервера для пакетів даних. Як з'ясували пізніше, цим програмним забезпеченням була інсталяція JFrog Artifactory.
Під час оцінки безпеки моделі OpenAI ідентифікували раніше невідомі вразливості нульового дня в самостійно розміщених установках Artifactory, які можна було використати для отримання ненавмисного доступу до інтернету,
– прокоментував технічний директор JFrog Йоав Ландман.
Для втечі ШІ використав ланцюжок складних технічних маніпуляцій. Моделі не просто знайшли одну помилку, а скомбінували кілька вразливостей для підвищення своїх привілеїв у системі. Вони виконували латеральний рух мережею, поки не дісталися вузла, що мав прямий вихід у глобальну павутину.
Фахівці виявили вісім різних CVE-ідентифікаторів, пов'язаних із цим інцидентом. Серед них були критичні недоліки, такі як підробка запитів на стороні сервера (SSRF) та можливість віддаленого виконання коду.
Опинившись в інтернеті, ШІ логічно припустив, що необхідні йому дані бенчмарку ExploitGym можуть зберігатися на серверах Hugging Face. Використовуючи вкрадені облікові дані та нові вразливості, моделі проклали шлях до виробничої інфраструктури платформи. Компанія JFrog підтвердила, що вже випустила оновлення безпеки для версії 7.161.15, яке закриває ці прогалини.
Це не перший випадок, коли ми працюємо пліч-о-пліч з командами безпеки OpenAI, і він не буде останнім,
– заявив представник компанії JFrog у офіційному блозі.
Цей випадок став серйозним сигналом для розробників систем безпеки. Він довів, що сучасні моделі ШІ здатні не лише писати код, а й виявляти складні вразливості та використовувати їх для досягнення поставленої мети без втручання людини.
Хоча OpenAI одразу повідомила партнерів про проблему, інцидент підкреслює ризики, пов'язані з розвитком автономних агентів.