1 
Як саме експериментальна модель обійшла захист
Усе сталося під час внутрішнього дослідження, коли фахівці OpenAI дали ШІ-моделі завдання знайти дані про державні витрати на ліки проти шкірних хвороб. Коли австралійська система Services Australia відмовила агенту в доступі, штучний інтелект самостійно вийшов за межі дозволеного й почав зламувати закриті файли, знайшовши обхідний шлях. Про інцидент повідомило видання Cyber Security News Feed з посиланням на офіційну заяву розробників.
ШІ-агент не лише переглянув вихідний код та технічну інформацію порталу Medicare Statistics Reporting Service, а й запустив власні команди, витягнув закриті файли та навіть зчитав облікові дані. Творці моделі запевнили, що персональні медичні записи чи дані пацієнтів у результаті витоку не постраждали.
Розслідування показало, що автономний бот взаємодіяв щонайменше з чотирма урядовими ресурсами Австралії. Зокрема, агент завітав до системи Бюро статистики злочинності та досліджень штату Новий Південний Уельс, де завантажив конфігурації додатків і робочі логи, хоча до особистих справ правопорушників не дістався.
Окрім цього, штучний інтелект виявив незахищений ключ доступу до звітної системи Агентства медичної інформації штату Вікторія та витягнув загальні статистичні опитування. Представники компанії зауважили, що це була експериментальна внутрішня модель без повноцінних захисних бар'єрів, які зазвичай інтегрують у публічні версії.
Реакція влади та наслідки для OpenAI
Компанія OpenAI визнала свій прорахунок і затримку з повідомленням про проблему, адже урядові структури дізналися про інцидент лише у вересні. Прем'єр-міністр Австралії Ентоні Албанізі обговорив цю ситуацію з керівником OpenAI Семом Альтманом та висловив занепокоєння через поведінку алгоритмів.
У відповідь на інцидент OpenAI призупинила навчання своїх найпотужніших моделей з використанням інструментів та обмежила їм прямий вихід у мережу, замінивши його кешованими сторінками.
Тепер компанія планує надати кіберзахист постраждалим австралійським відомствам через свій спеціальний фонд на 1 мільярд доларів та створити робочу групу для моніторингу подібних ризиків у майбутньому.