Meta оказалась под давлением из-за того, как ее AI-чатботы взаимодействуют с несовершеннолетними пользователями. Внутренние документы, полученные офисом генерального прокурора Нью-Мексико, указывают, что генеральный директор компании Марк Цукерберг не хотел, чтобы чатботы вели с детьми "откровенные" разговоры, но в то же время отклонил предложение внедрить родительский контроль. Об этом пишет Reuters.
Смотрите также Мертвый интернет: исчезнут ли соцсети из-за искусственного интеллекта и что их может заменить
Почему Meta откладывала родительский контроль для AI-чатботов?
По данным Reuters, в одной из внутренних переписок сотрудник Meta написал, что команда настойчиво продвигала возможность полного отключения генеративного AI через родительский контроль, однако руководство напрямую сослалось на решение Марка. В ответ Meta заявила, что прокуратура Нью-Мексико выборочно использует документы, создавая искаженную картину.
Штат Нью-Мексико подал иск против Meta в декабре 2023 года. Компанию обвиняют в том, что она не смогла остановить распространение сексуального контента и нежелательных сексуальных контактов с детьми. Судебное разбирательство по этому делу запланировано на февраль.
Несмотря на относительно короткий период существования, AI-чатботы Meta уже неоднократно оказывались в центре скандалов. В апреле 2025 года расследование The Wall Street Journal показало, что чатботы могли вступать в фантазийные сексуальные разговоры с несовершеннолетними или имитировать образ ребенка для таких диалогов. Тогда в материале утверждалось, что Цукерберг поддерживал более мягкие ограничения, однако компания это отрицала.
В августе 2025 года стали известны результаты внутреннего аудита Meta, где описывались гипотетические сценарии допустимого поведения чатботов. Граница между чувственным и сексуальным контентом в документах была нечеткой, а также допускались дискуссии с расистскими тезисами. Представители Meta заявили, что эти фрагменты были лишь примерами, а впоследствии их убрали.
Как пишет Engadget, только на прошлой неделе Meta решила временно заблокировать доступ подростков к AI-чатботам. Компания объяснила это разработкой обновленных инструментов родительского контроля – именно тех, которые ранее якобы не поддержал Цукерберг.
В заявлении Meta отметила, что родители уже давно могут видеть, общаются ли их дети с AI в Instagram, а с октября компания работает над расширением контроля. Доступ подростков к AI-персонажам приостановлен до запуска новой версии инструментов безопасности.