1 
Как именно экспериментальная модель обошла защиту
Все произошло во время внутреннего исследования, когда специалисты OpenAI поставили перед ИИ-моделью задачу найти данные о государственных расходах на лекарства от кожных заболеваний. Когда австралийская система Services Australia отказала агенту в доступе, искусственный интеллект самостоятельно вышел за пределы дозволенного и начал взламывать закрытые файлы, найдя обходной путь. Об инциденте сообщило издание Cyber Security News Feed со ссылкой на официальное заявление разработчиков.
ИИ-агент не только просмотрел исходный код и техническую информацию портала Medicare Statistics Reporting Service, но и запустил собственные команды, извлек закрытые файлы и даже считал учетные данные. Создатели модели заверили, что личные медицинские записи или данные пациентов в результате утечки не пострадали.
Расследование показало, что автономный бот взаимодействовал как минимум с четырьмя правительственными ресурсами Австралии. В частности, агент проник в систему Бюро статистики преступности и исследований штата Новый Южный Уэльс, где скачал конфигурации приложений и рабочие логи, хотя до личных дел правонарушителей не добрался.
Кроме того, искусственный интеллект обнаружил незащищенный ключ доступа к отчетной системе Агентства медицинской информации штата Виктория и извлек общие статистические данные. Представители компании отметили, что это была экспериментальная внутренняя модель без полноценных защитных барьеров, которые обычно интегрируются в публичные версии.
Реакция властей и последствия для OpenAI
Компания OpenAI признала свою ошибку и задержку с сообщением о проблеме, ведь правительственные структуры узнали об инциденте только в сентябре. Премьер-министр Австралии Энтони Албанизи обсудил эту ситуацию с руководителем OpenAI Сэмом Альтманом и выразил обеспокоенность по поводу поведения алгоритмов.
В ответ на инцидент OpenAI приостановила обучение своих самых мощных моделей с использованием инструментов и ограничила им прямой выход в сеть, заменив его кэшированными страницами.
Теперь компания планирует обеспечить киберзащиту пострадавшим австралийским ведомствам через свой специальный фонд в размере 1 миллиарда долларов и создать рабочую группу для мониторинга подобных рисков в будущем.