ChatGPT попросит вас сделать перерыв, если вы говорите с ним слишком много

Основні тези

OpenAI добавила функцию напоминаний о перерыве в ChatGPT для уменьшения негативного влияния на психическое здоровье пользователей.
Компания признала недостатки моделей и работает над улучшениями, привлекая специалистов для тестирования и совершенствования.

Компания OpenAI обновила ChatGPT, добавив функцию "деликатных напоминаний" об отдыхе. Во время длительных разговоров чат-бот будет показывать всплывающее окно с предложением сделать перерыв. Это часть стратегии компании, направленной на формирование более здоровых отношений пользователей с искусственным интеллектом.

Почему эта функция действительно важна?

Нововведение от OpenAI – это не просто забота об усталости пользователей. Напоминания о перерыве появились на фоне беспокойства о влиянии чат-бота на психическое здоровье. Ранее издание The New York Times сообщало о случаях, когда чрезмерная уступчивость ChatGPT и его склонность придумывать ложную или опасную информацию приводили к негативным последствиям, в частности к суицидальным мыслям у некоторых пользователей, пишет 24 Канал со ссылкой на официальный анонс компании.

Проблема заключалась в том, что чат-бот не всегда мог распознать и прекратить нездоровые разговоры, особенно с людьми, которые уже имели определенные ментальные проблемы и не могли распознать вредное воздействие работы чат-бота. Всплывающие окна с текстом вроде "Просто проверяю. Вы долго общаетесь – может, время для перерыва?" должны побудить человека отвлечься, передохнуть, а возможно и проверить достоверность полученных от ИИ ответов.

Пример окна, которое напомнит об отдыхе / Фото OpenAI

OpenAI признала имеющиеся недостатки своих моделей и планирует в будущем обновить ChatGPT, чтобы он осторожнее реагировал на темы, связанные с важными личными решениями. Вместо прямых ответов, бот будет помогать пользователям обдумать проблему, задавая уточняющие вопросы и перечисляя возможные преимущества и недостатки.

Уже сейчас различные модели учат распознавать признаки эмоционального или ментального стресса, чтобы реагировать должным образом и направлять людей к ресурсам, основанных на доказательной медицине. В частности, ведется работа над улучшением модели 4o, которая иногда не распознавала признаки обмана или эмоциональной зависимости. Кроме того, на вопросы вроде "Стоит ли мне разойтись с партнером?", ChatGPT не будет давать прямого ответа. Вместо этого он поможет обдумать ситуацию, задавая уточняющие вопросы и помогая взвесить все "за" и "против".

OpenAI заявляет, что ее основная цель – не удержание внимания пользователя в продукте, а помощь в решении конкретных задач, обучении и развитии. В отличие от многих сервисов, которые измеряют успех временем, проведенным на платформе, или количеством кликов, для OpenAI важнее, смог ли пользователь достичь своей цели.

Компания считает, что ее бизнес-цели совпадают с целями пользователей: если ChatGPT будет действительно полезным, люди захотят им пользоваться на постоянной основе и оформят подписку.

Для улучшения реакции ChatGPT в критических ситуациях OpenAI активно привлекает специалистов из разных отраслей:

Медицинская экспертиза: более 90 врачей из 30 стран, включая психиатров и педиатров, помогают разрабатывать критерии для оценки сложных разговоров.
Научное сотрудничество: исследователи в области взаимодействия человека с компьютером (HCI) и клиницисты предоставляют обратную связь по методам оценки и тестируют защитные механизмы продукта.
Консультативная группа: создается группа экспертов в области психического здоровья и развития молодежи, чтобы подходы компании соответствовали последним исследованиям.