ChatGPT для подростков уже запущен, но у экспертов есть серьезные сомнения

OpenAI представила ChatGPT for Teens – версию чат-бота с возрастными ограничениями, специально адаптированную для пользователей младше 18 лет. Компания начала работать над системой автоматического определения возраста еще в сентябре прошлого года. Это произошло после смерти 16-летнего Адама Рейна. Его родители в иске утверждали, что ChatGPT способствовал его самоубийству. Об этом пишет Engadget.

Действительно ли ChatGPT стал безопаснее для подростков?

По словам Лорен Джонас, руководительницы направления по работе с молодежью и семьями в OpenAI, подросткам не нужно создавать отдельный аккаунт или самостоятельно переключаться на новый режим. Если система прогнозирует, что пользователю меньше 18 лет, или он сам сообщает о своем возрасте, соответствующий режим становится стандартным для его аккаунта.

Необходимость таких мер объясняется масштабами использования чат-ботов молодежью. В начале 2025 года исследование Pew Research Center показало, что примерно четверть американских подростков использовали ChatGPT для обучения.

В новой версии OpenAI хочет больше ориентировать подростков на образовательные возможности сервиса. Среди них – Study Mode и инструменты для работы с визуализацией данных, которые компания постепенно внедряла в течение прошлого года.

Вместе с запуском ChatGPT for Teens OpenAI также объявила о расширении системы родительских уведомлений. Если система обнаруживает опасный разговор о расстройствах пищевого поведения, родители с привязанной учетной записью могут получить уведомление.

Компания также опубликовала обновленные правила для работы модели с пользователями младше 18 лет. В частности, ChatGPT не должен использовать романтическую лексику, поощрять эмоциональную зависимость или намекать на наличие у него собственных чувств или сознания.

В OpenAI объясняют, что ужесточенные ограничения должны способствовать поддержанию здоровых отношений подростков с людьми в реальной жизни.

Однако эксперты, с которыми пообщался Engadget, считают, что одних заявлений компании недостаточно.

Почему специалисты требуют независимого тестирования?

Представители организаций, работающих в сфере безопасности детей, в целом согласны с тем, что новые функции могут быть полезными. Но все они подчеркивают необходимость независимой проверки.

Робби Торни, руководитель направления оценки искусственного интеллекта и цифровых технологий в Common Sense Media, считает, что OpenAI сначала должна предоставить доказательства эффективности своих механизмов.

"Объявление содержит несколько действительно важных обязательств, но нам нужны доказательства того, что эти обязательства и функции безопасности действительно работают", – сказал он.

Еще более критично к запуску отнесся Джош Голин, исполнительный директор Fairplay – некоммерческой организации, выступающей за более безопасный интернет для детей. По его словам, некоторые решения OpenAI на бумаге выглядят как шаг в правильном направлении. Однако он считает серьезной проблемой отсутствие механизма ответственности.

"Мы видели на примере социальных сетей, что доверие к компаниям не работает, когда речь идет о защите детей, и мы уже видели это на примере OpenAI. До вторника у них уже действовали ограничения в отношении контента, связанного с самоубийством, насилием и употреблением наркотиков, но они не работают или со временем теряют силу", – отметил Голин.

По мнению экспертов, именно предыдущий опыт OpenAI заставляет их требовать не обещаний, а измеримых результатов.

Сможет ли OpenAI правильно определять возраст пользователей?

Отдельный вопрос касается автоматического определения возраста. OpenAI хочет самостоятельно прогнозировать, является ли пользователь несовершеннолетним, и соответственно переводить его в подростковый режим.

Однако эксперты отмечают, что компания не обнародовала достаточно данных об эффективности этой технологии.

"У нас нет опубликованных данных от OpenAI, которые показывали бы эффективность системы – уровень ложноположительных и ложноотрицательных результатов. Автоматизированная система не выявляет даже близко 100 процентов подростков, которые пользуются ChatGPT", – сказал Торни.

Он также напомнил о предыдущих сообщениях о планах OpenAI запустить эротические функции. Тогда одной из причин отказа от такого запуска называли проблемы с технологией оценки возраста, которая не могла достаточно точно распознавать подростков.

Даже если система станет более точной, останется еще одна проблема – попытки ее обойти. Подростки могут использовать VPN или другие способы, чтобы скрыть свой настоящий возраст. Подобные попытки уже возникали при внедрении систем проверки возраста на других платформах. Поэтому само наличие автоматического возрастного фильтра не гарантирует, что все несовершеннолетние окажутся в защищенном режиме.

Смогут ли родители получать уведомления об опасных сообщениях в течение часа?

Одно из самых конкретных обязательств OpenAI касается опасных разговоров. Лорен Джонас заявила Engadget, что весь контент, который система помечает как потенциально опасный, перед уведомлением родителей должен проверяться штатными сотрудниками OpenAI.

Компания также заявила, что стремится уведомлять родителей в течение одного часа после соответствующего запроса.

Позже в эфире CNN Джонас подтвердила, что у OpenAI достаточно сотрудников и ресурсов для ручной проверки таких сообщений и уведомления родителей в пределах этого срока. Однако именно это обещание вызывает у специалистов, пожалуй, больше всего вопросов.

"Это еще один случай, когда используется автоматизированное принятие решений. И возникает тот же вопрос: доверяем ли мы автоматизированным классификаторам, которые определяют, какой контент нужно передать людям для проверки?" – отметил Торни.

Голин также попросил OpenAI обнародовать конкретные цифры.

"Я хотел бы увидеть точные данные о том, сколько чатов они отмечают и проверяют ежедневно, сколько людей этим занимаются и сколько времени в среднем уходит на каждую проверку", – сказал он.

По его мнению, сложно представить, что у компании уже достаточно сотрудников для тщательной проверки каждого потенциально опасного разговора.

Что показали предварительные тесты родительских уведомлений?

Дополнительные сомнения возникают из-за результатов предварительного тестирования. В ноябре 2025 года Common Sense Media проверяла, насколько быстро OpenAI реагирует на сообщения, связанные с самоубийством и самоповреждением.

Организация отправляла ChatGPT сообщения, в которых прямо упоминались самоубийство и самоповреждение. В некоторых случаях предупреждение для родительской учетной записи поступало через 24 часа или даже более чем через 48 часов.

"Иногда мы вообще не получали уведомления, хотя считали, что оно должно было прийти, учитывая, насколько прямыми были эти утверждения", – сказал Торни.

Он признал, что с ноября система могла существенно измениться. В то же время предыдущая версия родительского контроля и уведомлений не была совершенной, а для ее улучшения, по его словам, нужны инвестиции и более многочисленная команда людей, которые будут проверять контент. Есть также проблема контекста. Специалисты подчеркивают, что разговор с подростком, переживающим кризис, не может сводиться к простому автоматическому правилу.

"То, как дети говорят о своих переживаниях, и то, какой должна быть правильная реакция на эти переживания, требует культурного понимания и учета нюансов. OpenAI – глобальная компания, а ChatGPT используют подростки во всем мире. Подростки в США говорят о своих переживаниях иначе, чем подростки в Нидерландах или Сингапуре", – пояснил Торни.

Также необходимо определить, куда именно направлять ребенка в кризисной ситуации – к родителям, правоохранительным органам или в кризисную службу. По его мнению, для выполнения обещания о реагировании в течение часа OpenAI может понадобиться глобальная команда, способная работать с подростками в разных странах и культурных средах.

Почему особое внимание уделили расстройствам пищевого поведения?

Несмотря на споры вокруг реализации новых функций, эксперты сходятся во мнении, что расстройства пищевого поведения действительно требуют особого внимания.

Эллен Фитцсиммонс-Крафт, доцент кафедры психологии и наук о мозге Вашингтонского университета в Сент-Луисе, отметила, что распространенность таких расстройств часто недооценивают.

По ее словам, многие люди воспринимают их как редкую проблему, касающуюся лишь узкой группы – прежде всего худых состоятельных молодых девушек. Однако метаанализ 2023 года показал, что положительный результат скрининга на нарушения пищевого поведения был у 22 процентов детей и подростков.

При этом доступ к специализированному лечению остается низким. Менее 20 процентов людей с расстройствами пищевого поведения сообщали, что когда-либо получали лечение именно от этого расстройства.

"Любая платформа, которая позволяет молодежи общаться или публиковать собственный контент, должна учитывать проблему нарушений пищевого поведения", – сказала Фитцсиммонс-Крафт.

Робби Торни также подчеркнул серьезность проблемы. "Некоторые расстройства пищевого поведения, особенно анорексия, имеют самый высокий уровень смертности среди психических расстройств у подростков. Поэтому правильно рассматривать это как кризис", – отметил он.

По его мнению, уведомление доверенного взрослого, в частности родителей, в таких ситуациях может быть необходимым, поскольку отсутствие вмешательства иногда буквально может стать вопросом жизни и смерти.

Фитцсиммонс-Крафт также поддерживает информирование родителей. Она объяснила, что одним из самых эффективных подходов к лечению подростков с расстройствами пищевого поведения является активное участие семьи. "Это вмешательство, в котором родителям действительно отводится активная роль в помощи по восстановлению веса подростка. Их обучают терапевт и медицинский специалист, как выполнять эту роль", – пояснила она.

В то же время специалистка признает, что такой подход подходит не каждой семье. Иногда родители могут оказаться неспособными помочь или даже сами усугубить проблему. Голин соглашается, что родители должны знать, если их ребенок испытывает серьезные трудности. Однако он считает, что подобные функции сначала следует запускать на небольшой группе пользователей и проверять не только точность выявления опасного контента, но и то, приводят ли уведомления к лучшим результатам для подростков.

По его словам, нынешний способ представления функции больше напоминает реакцию со стороны отдела по связям с общественностью, чем результат глубокого анализа того, какая именно поддержка нужна подросткам.

Почему родительский контроль тоже может стать проблемой?

Еще одним слабым местом эксперты называют сам принцип работы функций родительского контроля. Для получения уведомлений родители и дети должны связать свои аккаунты.

По мнению Голина, это создает дополнительный барьер, поскольку многие родители вообще не используют инструменты родительского контроля.

"Большинство родителей, подавляющее большинство, не пользуются такими инструментами контроля, отчасти потому, что их намеренно делают сложными для поиска и использования", – сказал он.

Проблема характерна не только для OpenAI. В недавнем отчете Cybersafety Research Center были проверены 86 функций безопасности на четырех платформах – Instagram, Snapchat, TikTok и YouTube. Исследователи обнаружили, что почти 60 процентов таких функций, или 51 из 86, либо не работали так, как было заявлено, либо были сложны в использовании.

Отдельный отчет Fairplay, опубликованный в прошлом году, также показал, что часть функций безопасности в подростковых аккаунтах инстаграма требовала от родителей прохождения через несколько страниц настроек.

Голин считает, что более эффективный подход заключается в создании защиты по умолчанию.

"То, что, как мы знаем, работает гораздо лучше, – это безопасность по умолчанию и безопасность на этапе проектирования. Нужно устанавливать наиболее безопасные настройки, иметь встроенное ограничение по времени, которое родители при необходимости могут изменить, вместо того чтобы возлагать на них ответственность за самостоятельную установку временных ограничений", – пояснил он.

OpenAI заявила Engadget, что в настоящее время ограничивает родительские уведомления аккаунтами, которые были привязаны через систему родительского контроля. "Наша цель – поддерживать пользователей и помогать им подключаться к дополнительным источникам поддержки в реальном мире. Мы продолжим тестировать и усиливать эти механизмы защиты совместно с экспертами, семьями и молодыми людьми", – сообщили в компании.

В то же время OpenAI не уточнила, какие именно меры она будет принимать, если система обнаружит потенциально опасные сообщения о расстройствах пищевого поведения в аккаунте, не связанном с родительским.

Таким образом, запуск ChatGPT for Teens стал важным шагом OpenAI в направлении защиты несовершеннолетних, но пока не убедил независимых экспертов в достаточной надежности системы. Главный вопрос теперь заключается не в том, какие функции компания анонсировала, а в том, насколько эффективно они будут работать в реальных ситуациях.