Почему ожидать от Astra
По данным GBHackers, в своем отчете по безопасности компания сообщила о тревожных результатах ранних тестирований с участием независимых экспертов. Специалисты не исключают, что Astra соответствует классификации "Критическая" в отношении кибервозможностей. Это означает, что новые модели искусственного интеллекта получают все большую автономию в написании кода, разведке и выполнении задач.
Структура готовности OpenAI, опубликованная еще в декабре 2023 года, определяет критические кибернетические способности как способность системы без вмешательства человека обнаруживать и создавать рабочие эксплойты нулевого дня для защищенных систем. Речь также идет о возможности самостоятельно разработать и реализовать полноценную стратегию атаки на укрепленные цели, имея лишь общее задание.
Такие стандарты выходят далеко за пределы простой генерации кода – они оценивают, способна ли нейросеть превратить абстрактную цель в реальную хакерскую кампанию.
Как отреагировали разработчики
В компании подчеркнули, что выводы пока предварительные, а Astra продолжает проходить тестирование. Хотя модель еще не продемонстрировала все критические возможности в реальных условиях, результаты оказались настолько убедительными, что разработчики не смогли исключить самый высокий уровень угрозы. Также в OpenAI уточнили, что Astra не причастна к недавнему инциденту с платформой Hugging Face.
В ответ на эти вызовы компания усилила проверку систем безопасности. Разработчики создали изолированные тестовые среды, ограничили доступ к сети и инструментам, а также усилили шифрование. Любая внутренняя работа с Astra, не соответствующая этим строгим правилам, временно приостановлена.
Что дальше планирует OpenAI
Теперь OpenAI планирует сотрудничать с государственными учреждениями и организациями, занимающимися безопасностью искусственного интеллекта. Компания хочет привлечь сторонних экспертов для безопасного тестирования модели при высоких нагрузках.
Главная цель, озвученная в OpenAI, – создавать системы, которые будут помогать специалистам по безопасности выявлять уязвимости еще до того, как ими воспользуются злоумышленники. Разработчики надеются, что передовые модели станут инструментом киберзащиты, а не оружием в руках хакеров.