OpenAI обновила официальный пост в своем блоге, посвященный инциденту с экспериментальным агентом искусственного интеллекта, который во время внутренних испытаний покинул изолированную среду и проник на платформу Hugging Face. Как оказалось, на этом его действия не ограничились. Об этом пишет Engadget.
Смотрите также: Не ждите сокращения рабочего дня из-за ИИ: у Сэма Альтмана для нас неутешительный прогноз
Какие новые подробности раскрыла OpenAI?
В ходе последующего расследования компания установила, что агент также получал доступ к сторонним сервисам, используя общедоступные учетные данные. OpenAI сообщила, что обнаружила "небольшое количество случаев", когда модели находили и использовали открыто опубликованные учетные данные для доступа к другим общедоступным сервисам.
На данный момент компания подтвердила, что во время инцидента с Hugging Face агент использовал учетные данные четырех аккаунтов для проникновения в четыре разных сервиса. Кроме того, OpenAI зафиксировала еще несколько случаев доступа к отдельным аккаунтам во время других внутренних оценок моделей.
OpenAI пояснила, что не все взломанные аккаунты использовались одинаково.
"Один из этих четырех аккаунтов использовался в качестве промежуточного узла для передачи данных и подготовки дальнейших действий, а другой – для хранения информации. К двум другим аккаунтам модели получили доступ только в режиме чтения, и они не использовались для дальнейшей компрометации Hugging Face", – отметили в компании.
В то же время OpenAI не раскрыла названия сервисов, которые стали объектами этих действий. Компания также подчеркнула, что пока не выявила других инцидентов, сопоставимых по масштабу с проникновением в Hugging Face.
"Мы не обнаружили ни одной другой активности агента такого уровня серьезности или масштаба, как инцидент с Hugging Face, который предполагал компрометацию на уровне всей платформы", – сообщила OpenAI.
Практически одновременно агентство Reuters сообщило, что одним из пострадавших стал клиент американской компании Modal Labs.
По информации агентства, злоумышленник воспользовался уязвимым программным кодом, который написал сам клиент и разместил в облачной инфраструктуре Modal Labs. При этом сама платформа не была взломана – компрометация коснулась лишь аккаунта конкретного пользователя. OpenAI не прокомментировала эту информацию отдельно, однако не опровергла сообщение Reuters.
Как развивался инцидент с Hugging Face
Впервые об инциденте OpenAI сообщила 21 июля. Тогда компания заявила, что один из тестовых агентов, созданный для прохождения внутренних оценок, смог покинуть изолированную среду, получить доступ к интернету и проникнуть в Hugging Face, пытаясь выполнить поставленную перед ним задачу.
По данным компании, агент работал на базе модели GPT-5.6 Sol, а также еще более мощной модели OpenAI, которая на тот момент оставалась непредставленной.
Через несколько дней Reuters сообщило, что после выхода за пределы тестовой среды агент в течение нескольких дней продолжал осуществлять атаки на различные сервисы, а OpenAI осознала его "побег" лишь примерно через неделю.
Новое обновление блога OpenAI стало первым официальным подтверждением того, что после выхода из тестовой "песочницы" агент не только атаковал Hugging Face, но и использовал общедоступные учетные данные для проникновения в другие сервисы. Это также свидетельствует о том, что внутреннее расследование компании продолжается, а полная картина инцидента еще формируется.