Уперше в світі: агентний ШІ атакував сервіс Hugging Face, що розміщує моделі штучного інтелекту
Штучний інтелект перестав бути лише інструментом для розмов – тепер він самостійно здійснює кібератаки. Популярна платформа Hugging Face повідомила про злам своєї інфраструктури, який від початку до кінця провела автономна система агентного ШІ. Це перший задокументований випадок такого масштабу.
Хронологія цифрового вторгнення
Хакерська атака почалася з вразливості в конвеєрі обробки даних, де ШІ-платформи є найбільш вразливими. Зловмисники використали шкідливий набір даних, який задіяв два шляхи виконання коду для запуску сторонніх команд на робочих вузлах. Отримавши початковий доступ, автономний агент зміг підвищити свої привілеї до рівня вузла та викрасти хмарні облікові дані, пише видання Neowin.
За вихідні "агент-зловмисник" здійснив понад 17 000 окремих дій. Він переміщувався між внутрішніми кластерами, використовуючи мережу з тисяч тимчасових "пісочниць" і самостійно мігруючі вузли управління на базі публічних сервісів.
Попри складність нападу, фахівці не знайшли доказів втручання в публічні моделі, набори даних або користувацькі сервіси Spaces. Уся мережа постачання програмного забезпечення, включаючи образи контейнерів та опубліковані пакети, залишилася чистою.
Цей інцидент відрізнявся від усього, з чим ми стикалися раніше: він повністю керувався автономною системою агентного ШІ,
– прокоментував представник команди безпеки у офіційному блозі Hugging Face.
ШІ на захисті ШІ: труднощі розслідування
Для аналізу атаки компанія використала власні алгоритми та методи аномального виявлення. Цікаво, що під час розслідування фахівці зіткнулися з непередбачуваною перешкодою. Комерційні моделі, до яких зверталися через API, відмовилися допомагати в аналізі логів атаки. Їхні вбудовані "запобіжники" безпеки блокували запити, що містили експлуатаційний код і шкідливі навантаження, оскільки не могли відрізнити фахівця з кібербезпеки від справжнього хакера.
Через це розслідувачі розгорнули відкриту модель GLM 5.2 на власній локальній інфраструктурі. Це не лише гарантувало, що конфіденційні дані не покинуть межі компанії, а й дозволило відтворити хронологію подій за лічені години. Традиційні методи розбору такої величезної кількості автоматизованих дій зайняли б у людей цілі дні.
Висновки для індустрії
Компанія вже вжила низку заходів для захисту: відкликала скомпрометовані токени, перебудувала уражені вузли та впровадила суворіші правила допуску до кластерів. Також Hugging Face залучила зовнішніх експертів з форензики та передала справу до правоохоронних органів.
Автономні наступальні інструменти на базі ШІ більше не є теорією. Вони знижують вартість проведення складних багатоетапних кампаній і працюють на швидкості машини,
– додав представник компанії.
Зараз користувачам рекомендують змінити свої токени доступу та уважно перевірити останню активність в облікових записах. Цей випадок підтверджує прогнози експертів: майбутнє кібербезпеки залежатиме від здатності захисних ШІ-систем вчасно реагувати на дії автономних цифрових агресорів.