Впервые в мире: агентный ИИ атаковал сервис Hugging Face, где размещают модели искусственного интеллекта
Искусственный интеллект перестал быть лишь инструментом для общения – теперь он самостоятельно осуществляет кибератаки. Популярная платформа Hugging Face сообщила о взломе своей инфраструктуры, который от начала до конца осуществила автономная система агентного ИИ. Это первый задокументированный случай такого масштаба.
Хронология цифрового вторжения
Хакерская атака началась с уязвимости в конвейере обработки данных, где ИИ-платформы наиболее уязвимы. Злоумышленники использовали вредоносный набор данных, который задействовал два пути выполнения кода для запуска сторонних команд на рабочих узлах. Получив первоначальный доступ, автономный агент смог повысить свои привилегии до уровня узла и похитить учетные данные облачного сервиса, пишет издание Neowin.
За выходные "злоумышленник-агент" совершил более 17 000 отдельных действий. Он перемещался между внутренними кластерами, используя сеть из тысяч временных "песочниц" и самостоятельно мигрирующие узлы управления на базе публичных сервисов.
Несмотря на сложность атаки, специалисты не обнаружили доказательств вмешательства в публичные модели, наборы данных или пользовательские сервисы Spaces. Вся цепочка поставок программного обеспечения, включая образы контейнеров и опубликованные пакеты, осталась чистой.
Этот инцидент отличался от всего, с чем мы сталкивались ранее: он полностью управлялся автономной системой агентского ИИ,
– прокомментировал представитель команды безопасности в официальном блоге Hugging Face.
ИИ на защите ИИ: сложности расследования
Для анализа атаки компания использовала собственные алгоритмы и методы обнаружения аномалий. Интересно, что в ходе расследования специалисты столкнулись с непредвиденным препятствием. Коммерческие модели, к которым обращались через API, отказались помогать в анализе логов атаки. Их встроенные "предохранители" безопасности блокировали запросы, содержащие эксплойт-код и вредоносные нагрузки, поскольку не могли отличить специалиста по кибербезопасности от настоящего хакера.
Из-за этого следователи развернули открытую модель GLM 5.2 на собственной локальной инфраструктуре. Это не только гарантировало, что конфиденциальные данные не покинут пределы компании, но и позволило восстановить хронологию событий за считанные часы. Традиционные методы анализа такого огромного количества автоматизированных действий заняли бы у людей целые дни.
Выводы для отрасли
Компания уже приняла ряд мер по защите: отозвала скомпрометированные токены, перенастроила зараженные узлы и ввела более строгие правила доступа к кластерам. Также Hugging Face привлекла внешних экспертов по компьютерной криминалистике и передала дело в правоохранительные органы.
Автономные наступательные инструменты на базе ИИ больше не являются теорией. Они снижают стоимость проведения сложных многоэтапных кампаний и работают со скоростью машины,
– добавил представитель компании.
Сейчас пользователям рекомендуют сменить свои токены доступа и внимательно проверить последнюю активность в учетных записях. Этот случай подтверждает прогнозы экспертов: будущее кибербезопасности будет зависеть от способности защитных ИИ-систем своевременно реагировать на действия автономных цифровых агрессоров.