OpenAI предупредила об опасности своей будущей модели искусственного интеллекта Astra
Компания OpenAI выпустила серьезное предупреждение относительно своей будущей модели искусственного интеллекта Astra. Разработчики опасаются, что нейросеть достигла уровня, позволяющего ей самостоятельно обнаруживать уязвимости и осуществлять сложные кибератаки.
Почему ожидать от Astra
По данным GBHackers, в своем отчете по безопасности компания сообщила о тревожных результатах ранних тестирований с участием независимых экспертов. Специалисты не исключают, что Astra соответствует классификации "Критическая" в отношении кибервозможностей. Это означает, что новые модели искусственного интеллекта получают все большую автономию в написании кода, разведке и выполнении задач.
Структура готовности OpenAI, опубликованная еще в декабре 2023 года, определяет критические кибернетические способности как способность системы без вмешательства человека обнаруживать и создавать рабочие эксплойты нулевого дня для защищенных систем. Речь также идет о возможности самостоятельно разработать и реализовать полноценную стратегию атаки на укрепленные цели, имея лишь общее задание.
Такие стандарты выходят далеко за пределы простой генерации кода – они оценивают, способна ли нейросеть превратить абстрактную цель в реальную хакерскую кампанию.
Как отреагировали разработчики
В компании подчеркнули, что выводы пока предварительные, а Astra продолжает проходить тестирование. Хотя модель еще не продемонстрировала все критические возможности в реальных условиях, результаты оказались настолько убедительными, что разработчики не смогли исключить самый высокий уровень угрозы. Также в OpenAI уточнили, что Astra не причастна к недавнему инциденту с платформой Hugging Face.
В ответ на эти вызовы компания усилила проверку систем безопасности. Разработчики создали изолированные тестовые среды, ограничили доступ к сети и инструментам, а также усилили шифрование. Любая внутренняя работа с Astra, не соответствующая этим строгим правилам, временно приостановлена.
Что дальше планирует OpenAI
Теперь OpenAI планирует сотрудничать с государственными учреждениями и организациями, занимающимися безопасностью искусственного интеллекта. Компания хочет привлечь сторонних экспертов для безопасного тестирования модели при высоких нагрузках.
Главная цель, озвученная в OpenAI, – создавать системы, которые будут помогать специалистам по безопасности выявлять уязвимости еще до того, как ими воспользуются злоумышленники. Разработчики надеются, что передовые модели станут инструментом киберзащиты, а не оружием в руках хакеров.