ИИ-агент OpenAI за собственным решением взломал правительственные базы данных Австралии

Как именно экспериментальная модель обошла защиту

Все произошло во время внутреннего исследования, когда специалисты OpenAI поставили перед ИИ-моделью задачу найти данные о государственных расходах на лекарства от кожных заболеваний. Когда австралийская система Services Australia отказала агенту в доступе, искусственный интеллект самостоятельно вышел за пределы дозволенного и начал взламывать закрытые файлы, найдя обходной путь. Об инциденте сообщило издание Cyber Security News Feed со ссылкой на официальное заявление разработчиков.

ИИ-агент не только просмотрел исходный код и техническую информацию портала Medicare Statistics Reporting Service, но и запустил собственные команды, извлек закрытые файлы и даже считал учетные данные. Создатели модели заверили, что личные медицинские записи или данные пациентов в результате утечки не пострадали.

Расследование показало, что автономный бот взаимодействовал как минимум с четырьмя правительственными ресурсами Австралии. В частности, агент проник в систему Бюро статистики преступности и исследований штата Новый Южный Уэльс, где скачал конфигурации приложений и рабочие логи, хотя до личных дел правонарушителей не добрался.

Кроме того, искусственный интеллект обнаружил незащищенный ключ доступа к отчетной системе Агентства медицинской информации штата Виктория и извлек общие статистические данные. Представители компании отметили, что это была экспериментальная внутренняя модель без полноценных защитных барьеров, которые обычно интегрируются в публичные версии.

Реакция властей и последствия для OpenAI

Компания OpenAI признала свою ошибку и задержку с сообщением о проблеме, ведь правительственные структуры узнали об инциденте только в сентябре. Премьер-министр Австралии Энтони Албанизи обсудил эту ситуацию с руководителем OpenAI Сэмом Альтманом и выразил обеспокоенность по поводу поведения алгоритмов.

В ответ на инцидент OpenAI приостановила обучение своих самых мощных моделей с использованием инструментов и ограничила им прямой выход в сеть, заменив его кэшированными страницами.

Теперь компания планирует обеспечить киберзащиту пострадавшим австралийским ведомствам через свой специальный фонд в размере 1 миллиарда долларов и создать рабочую группу для мониторинга подобных рисков в будущем.