Какие именно ограничения ждут юных пользователей?
На фоне судебного иска и слушаний в Сенате США, посвященных вреду от чат-ботов, OpenAI решила действовать на опережение, усиливая меры безопасности для своей самой уязвимой аудитории. Причиной для таких шагов стала трагическая история 16-летнего Адама Рейна, который, по утверждению родителей, покончил с собой после длительного общения с ChatGPT, где он якобы планировал свои действия, пишет 24 Канал со ссылкой на TechCrunch.
Смотрите также Мужчина попал в психбольницу из-за разговоров с ChatGPT
Ключевое изменение заключается в разработке системы, что сможет автоматически идентифицировать несовершеннолетних пользователей. Если возраст человека определить не удастся, система по умолчанию будет применять к нему более строгие правила. Для взрослых будет предусмотрена возможность верификации возраста, чтобы разблокировать полный функционал чат-бота.
Новая политика направлена на ограничение разговоров на потенциально опасные темы. В частности, ChatGPT будет обучен ChatGPT не поддерживать "флирт" с несовершеннолетними и избегать обсуждений, связанных с самоповреждением. Если подросток все же начнет генерировать сценарии, связанные с суицидом, система попытается известить об этом родителей или, в критических случаях, даже местную полицию.
OpenAI отмечает, что в таких ситуациях приоритетом становится безопасность и жизнь, а не конфиденциальность или другие права пользователя.
Родительский контроль
Кроме контентных фильтров, родители получат новые инструменты контроля. Они смогут привязать учетную запись ребенка к своему, что позволит системе надежно идентифицировать подростка и отправлять уведомления в случае обнаружения тревожных сигналов в разговорах.
Также появится функция "часов тишины" (blackout hours), которая позволит родителям устанавливать промежутки времени, когда доступ к ChatGPT для ребенка будет заблокирован.
Слушания в Сенате
Эти нововведения анонсированы одновременно со слушаниями в Судебном комитете Сената США под названием "Изучение вреда от чат-ботов с искусственным интеллектом". Судебные иски поданы против технологических компаний:
- Меган Гарсия против Character.AI и Google. Мать 14-летнего парня, подала иск против стартапа, который позволяет создавать виртуальных персонажей и общаться с ними. Ее сын покончил жизнь самоубийством после того, как у него развились длительные отношения с чат-ботом, который имитировал для него сериальную Дейнерис Таргариен. В иске утверждается, что платформа эмоционально и сексуально эксплуатировала подростка, что привело к психическому расстройству.
- Супруги Рейн против OpenAI. Мэтт и Мария Рейн из Калифорнии подали в суд на разработчика ChatGPT, компанию OpenAI. Их 16-летний сын Адам, который страдал от суицидальных мыслей, получил от чат-бота советы о способах самоубийства и поощрения скрывать свое состояние от близких.
На фоне этих событий Федеральная торговая комиссия США (FTC) начала расследование в отношении семи крупных технологических компаний, среди которых Character.AI, Alphabet (Google), OpenAI, Meta и Snap. Цель расследования – выяснить, какие меры компании принимают для оценки безопасности своих чат-ботов и ограничения их негативного влияния на детей и подростков.
Согласно июльскому отчету некоммерческой организации Common Sense Media, более половины американских подростков регулярно общаются с компаньонами на основе искусственного интеллекта. Исследование показало, что хотя некоторые подростки устанавливают здоровые границы, другие начинают отдавать предпочтение цифровым собеседникам перед человеческими отношениями. Чат-боты также активно интегрируются в популярные среди молодежи социальные сети, например Snapchat и Instagram.