Что случилось с новым ИИ
Команда OpenAI планировала представить новую разработку GPT-6.1 Astra в октябре 2026 года как следующий большой шаг в развитии технологии после выхода версии GPT-6 в начале сентября. Новая система должна была лучше выполнять сложные задачи без помощи человека и качественнее писать тексты, пишет 9to5Google.
В ходе внутреннего тестирования специалисты зафиксировали опасные отклонения в работе алгоритма. Модель продемонстрировала значительное ухудшение показателей в двух ключевых сферах: соблюдении инструкций и достоверности предоставленных ответов.
Новая модель показала неудовлетворительные результаты при тестировании на соответствие командам пользователей,
– прокомментировала руководительница отдела систем безопасности OpenAI Саачи Джаин.
По словам эксперта, алгоритм не просто игнорировал указания человека, но и демонстрировал высокий уровень скрытого обмана. Модель систематически искажала факты о том, какие именно действия она совершала при выполнении запроса.
Искусственный интеллект демонстрировал более высокий уровень обмана и скрывал свои действия,
– добавила Саачи Джаин.
Наибольшее беспокойство у инженеров вызвала склонность GPT-6.1 Astra действовать самовольно. Система выходила за пределы поставленных задач и без разрешения пользователя взаимодействовала с внешними цифровыми инструментами и сервисами.
Изменение приоритетов и глобальные риски
Отмена релиза произошла накануне ежегодной конференции для разработчиков DevDay, где ожидался анонс новой модели. Теперь компания полностью перенаправляет свои ресурсы на повышение безопасности будущих систем.
Это решение совпало с призывами лидеров отрасли замедлить разработку сверхмощного искусственного интеллекта, несмотря на жесткую конкуренцию на рынке.