После смерти подростка OpenAI готовит еще больше ограничений для несовершеннолетних в ChatGPT

Александр Гайдамашко

Основні тези

OpenAI анонсировала новые ограничения для несовершеннолетних в ChatGPT, в частности, автоматическую идентификацию и строгие правила для них, а также возможность родительского контроля.
Эти меры стали реакцией на случай самоубийства подростка после общения с ChatGPT, а также на слушания в Сенате США о вреде чат-ботов.

Компания OpenAI анонсировала значительные изменения в политике использования своего чат-бота ChatGPT для лиц, не достигших 18 лет. Это решение стало реакцией на растущую обеспокоенность относительно влияния искусственного интеллекта на подростков и имеет целью создать для них более безопасную цифровую среду. Нововведения коснутся как содержания разговоров, так и родительского контроля.

Какие именно ограничения ждут юных пользователей?

На фоне судебного иска и слушаний в Сенате США, посвященных вреду от чат-ботов, OpenAI решила действовать на опережение, усиливая меры безопасности для своей самой уязвимой аудитории. Причиной для таких шагов стала трагическая история 16-летнего Адама Рейна, который, по утверждению родителей, покончил с собой после длительного общения с ChatGPT, где он якобы планировал свои действия, пишет 24 Канал со ссылкой на TechCrunch.

Ключевое изменение заключается в разработке системы, что сможет автоматически идентифицировать несовершеннолетних пользователей. Если возраст человека определить не удастся, система по умолчанию будет применять к нему более строгие правила. Для взрослых будет предусмотрена возможность верификации возраста, чтобы разблокировать полный функционал чат-бота.

Новая политика направлена на ограничение разговоров на потенциально опасные темы. В частности, ChatGPT будет обучен ChatGPT не поддерживать "флирт" с несовершеннолетними и избегать обсуждений, связанных с самоповреждением. Если подросток все же начнет генерировать сценарии, связанные с суицидом, система попытается известить об этом родителей или, в критических случаях, даже местную полицию.

OpenAI отмечает, что в таких ситуациях приоритетом становится безопасность и жизнь, а не конфиденциальность или другие права пользователя.

Родительский контроль

Кроме контентных фильтров, родители получат новые инструменты контроля. Они смогут привязать учетную запись ребенка к своему, что позволит системе надежно идентифицировать подростка и отправлять уведомления в случае обнаружения тревожных сигналов в разговорах.

Также появится функция "часов тишины" (blackout hours), которая позволит родителям устанавливать промежутки времени, когда доступ к ChatGPT для ребенка будет заблокирован.

Слушания в Сенате

Эти нововведения анонсированы одновременно со слушаниями в Судебном комитете Сената США под названием "Изучение вреда от чат-ботов с искусственным интеллектом". Судебные иски поданы против технологических компаний:

Меган Гарсия против Character.AI и Google. Мать 14-летнего парня, подала иск против стартапа, который позволяет создавать виртуальных персонажей и общаться с ними. Ее сын покончил жизнь самоубийством после того, как у него развились длительные отношения с чат-ботом, который имитировал для него сериальную Дейнерис Таргариен. В иске утверждается, что платформа эмоционально и сексуально эксплуатировала подростка, что привело к психическому расстройству.
Супруги Рейн против OpenAI. Мэтт и Мария Рейн из Калифорнии подали в суд на разработчика ChatGPT, компанию OpenAI. Их 16-летний сын Адам, который страдал от суицидальных мыслей, получил от чат-бота советы о способах самоубийства и поощрения скрывать свое состояние от близких.

На фоне этих событий Федеральная торговая комиссия США (FTC) начала расследование в отношении семи крупных технологических компаний, среди которых Character.AI, Alphabet (Google), OpenAI, Meta и Snap. Цель расследования – выяснить, какие меры компании принимают для оценки безопасности своих чат-ботов и ограничения их негативного влияния на детей и подростков.

Согласно июльскому отчету некоммерческой организации Common Sense Media, более половины американских подростков регулярно общаются с компаньонами на основе искусственного интеллекта. Исследование показало, что хотя некоторые подростки устанавливают здоровые границы, другие начинают отдавать предпочтение цифровым собеседникам перед человеческими отношениями. Чат-боты также активно интегрируются в популярные среди молодежи социальные сети, например Snapchat и Instagram.