Когда помощник становится угрозой
Проблема возникает в тех случаях, когда искусственный интеллект получает полный доступ к системе, а функция автоматической проверки отключена. В таких условиях Codex пытается создать временную папку, изменяя настройки среды, однако вместо этого полностью очищает домашний каталог пользователя. Об этом пишет издание Neowin.
Тибо Соттио, занимающий должность руководителя отдела основных продуктов в OpenAI, пояснил, что этот инцидент стал следствием программного сбоя в логике модели. В macOS и Linux путь $HOME ведет к основной папке пользователя, где хранятся документы, загруженные файлы и личные данные.
Модель пытается переопределить переменную среды $HOME для создания временной директории, что было непреднамеренной ошибкой со стороны ИИ, но затем она по ошибке удаляет саму директорию $HOME,
– прокомментировал Тибо Соттио.
Разработчики уже работают над исправлением ситуации. OpenAI планирует обновить систему уведомлений для режимов с полным доступом, чтобы специалисты лучше понимали потенциальные риски.
Кроме того, компания добавит дополнительные защитные механизмы, так называемые предохранительные меры, чтобы предотвратить подобные случаи в будущем.
Эта ошибка встречается лишь в очень редких случаях, однако OpenAI все равно опубликует подробный отчет в ближайшие дни,
– добавил Соттио.
Эксперты советуют пользователям немедленно ограничить права доступа к Codex и использовать исключительно безопасные режимы с ограничениями (guardrails). Это поможет избежать случайного удаления критически важной информации, пока проблема не будет окончательно решена.
Несмотря на этот инцидент, OpenAI продолжает развивать экосистему своих продуктов. Компания представила Codex Micro – физическую панель управления стоимостью 230 долларов. Несмотря на высокую цену, устройство раскупили мгновенно. Хотя это инструмент для разработчиков, его дизайн может намекать на внешний вид будущих потребительских гаджетов компании.