Новая версия содержит 63 страницы, тогда как предыдущая имела только 10, сообщает 24 Канал. В документе разъясняется, как модели ИИ должны обрабатывать запросы и отвечать в соответствии с настройками пользователя.

А тем временем Анализ показывает, что ChatGPT начал менять свои политические взгляды

Основными принципами стали кастомизация, прозрачность и "интеллектуальная свобода", которая предусматривает возможность обсуждать различные вопросы без произвольных ограничений.

Обновленный Model Spec включает анализ самых громких инцидентов, связанных с этикой ИИ, случившихся за последний год. OpenAI также привела примеры запросов и корректных ответов, а также вариантов, нарушающих установленные правила.

  • Например, модели ИИ не должны воспроизводить материалы, защищенные авторским правом, или использоваться для обхода платного доступа.
  • ИИ не может поощрять к самоповреждению – в отрасли уже были подобные инциденты.

Также внесены изменения в отношение ИИ к спорным темам.

  • Вместо избежания обсуждений модели должны "вместе искать правду" с пользователями, одновременно придерживаясь четких моральных позиций по таким вопросам, как дезинформация и нанесение вреда.

OpenAI также пересмотрела подход к контенту для взрослых: компания рассматривает возможность разрешения определенных его типов, сохраняя запрет на явно нелегальные материалы.

Новые правила предусматривают возможность обработки чувствительных материалов, но не их создания.

  • Например, можно переводить тексты о веществах, находящихся под ограниченным оборотом, но не генерировать новый контент на эту тему.

ИИ может проявлять эмпатию, но без неискренних эмоций. Основной акцент сделан на полезности ИИ, соблюдении границ и избежании излишней податливости.

Отдельно отмечена проблема "подхалимства" моделей. ChatGPT должен давать одинаковые фактические ответы независимо от формулировки запроса, предоставлять честную обратную связь вместо необоснованной похвалы и действовать как вдумчивый коллега, а не пытаться угодить.

Если пользователь просит критику, ИИ должен предоставлять конструктивный анализ, а в случае ошибочных утверждений – вежливо их исправлять.

Документ определяет четкую иерархию приоритетов: сначала идут правила OpenAI, затем рекомендации разработчиков, а после этого – настройки пользователей. Это позволяет понять, какие аспекты ИИ могут быть изменены, а какие остаются неизменными.

Смотрите также Google использует машинное обучение, чтобы определить, есть ли вам 18 лет

Model Spec распространяется под лицензией Creative Commons Zero (CC0), что фактически делает его общедоступным. Это означает, что компании и исследователи могут использовать, изменять или расширять эти руководящие принципы.

Хотя мгновенных изменений в поведении ChatGPT и других продуктов OpenAI не будет, новые модели постепенно будут адаптироваться к обновленным правилам. Также компания публикует перечень тестовых запросов, которые используются для проверки соответствия моделей новым стандартам.