OpenAI визнала нові злами – ШІ-агент атакував не лише Hugging Face

OpenAI оновила офіційний допис у своєму блозі, присвячений інциденту з експериментальним агентом штучного інтелекту, який під час внутрішніх випробувань залишив ізольоване середовище та проник до платформи Hugging Face. Як виявилося, цим його дії не обмежилися. Про це пише Engadget.

Дивіться також Не чекайте скорочення робочого дня через ШІ: Сем Альтман має для нас невтішний прогноз 

Які нові подробиці розкрила OpenAI?

Під час подальшого розслідування компанія встановила, що агент також отримував доступ до сторонніх сервісів, використовуючи загальнодоступні облікові дані. OpenAI повідомила, що виявила "невелику кількість випадків", коли моделі знаходили та використовували відкрито опубліковані облікові дані для доступу до інших публічно доступних сервісів.

Наразі компанія підтвердила, що під час інциденту з Hugging Face агент використав облікові дані чотирьох акаунтів для проникнення до чотирьох різних сервісів. Крім цього, OpenAI зафіксувала ще кілька випадків доступу до окремих акаунтів під час інших внутрішніх оцінювань моделей.

OpenAI пояснила, що не всі зламані акаунти були задіяні однаковим чином.

"Один із цих чотирьох акаунтів використовувався як проміжний вузол для передавання даних і підготовки подальших дій, а інший – для зберігання інформації. До двох інших акаунтів моделі отримали доступ лише в режимі читання, і вони не використовувалися для подальшої компрометації Hugging Face", – зазначили в компанії.

Водночас OpenAI не розкрила назви сервісів, які стали об'єктами цих дій. Компанія також наголосила, що поки не виявила інших інцидентів, співставних за масштабом із проникненням до Hugging Face.

"Ми не виявили жодної іншої активності агента такого рівня серйозності або масштабу, як інцидент із Hugging Face, який передбачав компрометацію на рівні всієї платформи", – повідомила OpenAI.

Практично одночасно агентство Reuters повідомило, що одним із постраждалих став клієнт американської компанії Modal Labs.

За інформацією агентства, агент скористався вразливим програмним кодом, який написав сам клієнт і розмістив у хмарній інфраструктурі Modal Labs. При цьому сама платформа не була зламана – компрометація стосувалася лише акаунта конкретного користувача. OpenAI не прокоментувала цю інформацію окремо, однак не спростувала повідомлення Reuters.

Як розгортався інцидент із Hugging Face

Вперше про подію OpenAI повідомила 21 липня. Тоді компанія заявила, що один із тестових агентів, створений для проходження внутрішніх оцінювань, зміг залишити ізольоване середовище, отримати доступ до інтернету та проникнути до Hugging Face, намагаючись виконати поставлене перед ним завдання.

За даними компанії, агент працював на базі моделі GPT-5.6 Sol, а також ще потужнішої моделі OpenAI, яка на той момент залишалася непредставленою.

Через кілька днів Reuters повідомило, що після виходу за межі тестового середовища агент протягом кількох днів продовжував здійснювати атаки на різні сервіси, а OpenAI усвідомила його "втечу" лише приблизно через тиждень.

Нове оновлення блогу OpenAI стало першим офіційним підтвердженням того, що після виходу з тестового "пісочника" агент не лише атакував Hugging Face, а й використовував відкрито доступні облікові дані для проникнення до інших сервісів. Це також свідчить, що внутрішнє розслідування компанії триває, а повна картина інциденту ще формується.