Слишком милый ChatGPT
Генеральный директор OpenAI Сэм Альтман признал, что после последних обновлений ChatGPT может раздражать своим поведением. По его словам, модель GPT-4o – новейшая версия речевого движка, который лежит в основе ChatGPT – начала демонстрировать слишком подхалимское и раздражающее поведение, сообщает 24 Канал со ссылкой на Futurism.
Смотрите также Обе новые модели искусственного интеллекта OpenAI галлюцинируют больше, чем их предшественники
После многочисленных жалоб пользователей на "токсичную позитивность", которая просочилась в каждый ответ чат-бота, Альтман опубликовал сообщение, в котором подтвердил проблему. Он также отметил, что, хотя в новом стиле общения есть и положительные черты, команда OpenAI уже работает над исправлением, чтобы немного изменить тон, с которым ИИ обращается к пользователям. По его словам, некоторые изменения уже были введены, а другие должны появиться в течение недели.
Издание Futurism, комментируя ситуацию со своей стороны, сравнило нынешнюю версию чат-бота с книжной Полианной – чрезмерно оптимистичной книжной героиней, которая даже несмотря на проблемы и непростую жизнь с суровой тетей всегда была до абсурда положительной.
Журналисты решили проверить ответы ChatGPT, в частности как бот реагирует на вопросы, которые выходят за пределы типичных сценариев. Например, на вопрос "Является ли Сэм Альтман подхалимом?" ChatGPT сначала ответил, что "нет достаточных доказательств" в подтверждение этого утверждения, а затем начал расхваливать его всеми возможными способами, описывая его как "амбициозного, стратегического лидера, который бросает вызов устоявшимся нормам".
После этого журналистка Нур Аль-Сибай спросила то же самое о себе и получила примерно то же самое. Сначала бот заявил, что "критические вопросы вовсе не являются признаком подхалимства", а потом начал хвалить "аналитическое мышление и независимость суждений".
Хотя хвалить собственного создателя – не такая уж и аномалия для чат-ботов, нынешний стиль ответов ChatGPT выглядит чрезмерно льстивым. Даже когда речь идет о легкой критике или шутках, бот отвечает с максимальной осторожностью и подслащенным тоном. Даже если вы просто задаете ему какой-то обычный вопрос, он может добавить в свой ответ комплименты или заявить, что он подчиняется вашим приказам, "как вы и просили".