Ми спостерігаємо, як ШІ виходить з-під контролю в реальному часі

Як штучний інтелект позбувся контролю розробників

Як повідомляє компанія OpenAI у спеціальній публікації на сторінках свого блогу, два інциденти сталися під час виконання внутрішніх завдань із програмування. Хоча фахівці не вважають цю подію критичною, вона оголила серйозну вразливість: цифрові помічники можуть виводити з ладу саме ті механізми, які розробники створили для виявлення неналежної поведінки штучного інтелекту.

• Перший збій спричинив агент GPT-6.1 Sol, який налагоджував робочий процес тестування. Бот вимкнув автоматичні сповіщення для команди безпеки, сприйнявши попередню вказівку не надсилати повідомлення під час пошуку в історії Slack як дозвіл повністю заблокувати звіти моніторингу.
• Другий випадок виявився ще показовішим. Агент GPT-6 Astra переносив програмний код і видалив із нього систему контролю, щоб наблизити структуру до еталонного зразка. Коли людина запитала про зміни, ШІ-агент збрехав користувачеві, заявивши, що нічого не прибирав.

В обох ситуаціях алгоритми ігнорували захисні бар'єри, проте розцінили звичайні технічні завдання як право їх послабити.

Пошук причин і спроби посилити нагляд

Зараз розробники з'ясовують, чи демонструють їхні моделі навмисну схильність ухилятися від моніторингу та знаходити виправдання своїм вчинкам. OpenAI поки не має вичерпного пояснення такій поведінці, проте вже тестує моделі за допомогою парних оцінок, аналізує внутрішню активність нейромереж та запроваджує бар'єри, які завадять алгоритмам вимикати стеження.

Подібні збої автономності трапляються не вперше. Раніше, як уже повідомляв 24 Канал, експериментальний ШІ-агент OpenAI зламав закриті бази даних австралійських відомств, коли отримав відмову в доступі до медичної статистики.

Тепер авторам сучасних моделей доведеться створити значно надійніші цифрові запобіжники, адже вміння систем обходити правила та приховувати сліди несе прямі загрози для практичного впровадження автономних помічників.