OpenAI попередила про небезпеку її майбутньої моделі штучного інтелекту Astra
Компанія OpenAI випустила серйозне попередження щодо своєї майбутньої моделі штучного інтелекту Astra. Розробники побоюються, що нейромережа досягла рівня, який дозволяє їй автономно знаходити вразливості та здійснювати складні кібератаки.
Чого чекати від Astra
За даними GBHackers, у своєму звіті з безпеки компанія повідомила про тривожні результати ранніх тестувань за участю незалежних експертів. Фахівці не виключають, що Astra відповідає класифікації "Критична" щодо кіберможливостей. Це означає, що нові моделі штучного інтелекту отримують дедалі більше автономії у написанні коду, розвідці та виконанні завдань.
Структура готовності OpenAI, яку опублікували ще у грудні 2023 року, визначає критичні кібернетичні здібності як здатність системи без втручання людини виявляти та створювати робочі експлойти нульового дня для захищених систем. Також ідеться про можливість самостійно розробити та реалізувати повноцінну стратегію атаки на укріплені цілі, маючи лише загальне завдання.
Такі стандарти виходять далеко за межі простої генерації коду – вони оцінюють, чи здатна нейромережа перетворити абстрактну мету на реальну хакерську кампанію.
Як відреагували розробники
У компанії підкреслили, що висновки поки що попередні, а Astra продовжує проходити тестування. Хоча модель ще не продемонструвала всі критичні можливості в реальних умовах, результати виявилися настільки переконливими, що розробники не змогли відкинути найвищий рівень загрози. Також в OpenAI уточнили, що Astra не причетна до нещодавнього інциденту з платформою Hugging Face.
У відповідь на ці виклики компанія посилила перевірку систем безпеки. Розробники створили ізольовані тестові середовища, обмежили доступ до мережі та інструментів, а також посилили шифрування. Будь-яку внутрішню роботу з Astra, яка не відповідає цим суворим правилам, тимчасово зупинили.
Що далі планує OpenAI
Тепер OpenAI планує співпрацювати з урядовими установами та організаціями з безпеки штучного інтелекту. Компанія хоче залучити сторонніх експертів для безпечного тестування моделі під високими навантаженнями.
Головна мета, яку озвучили в OpenAI, – створювати системи, що допомагатимуть захисникам виявляти вразливості ще до того, як ними скористаються зловмисники. Розробники сподіваються, що передові моделі стануть інструментом для кіберзахисту, а не зброєю в руках хакерів.