Почему игрушки с искусственным интеллектом могут быть опасными и требовать больше внимания, чем дети
- U.S. PIRG обнаружила серьезные проблемы безопасности в детских игрушках с искусственным интеллектом, которые могут давать советы об опасных предметах.
- AI-игрушки работают на тех же языковых моделях, что и чатботы для взрослых, и могут непредсказуемо вести себя, создавая риски для детей.
U.S. PIRG проверила четыре детские игрушки со встроенным искусственным интеллектом и обнаружила серьезные проблемы безопасности - от сексуально откровенных разговоров до советов о том, где найти спички или ножи. Отчет показывает: генеративные чатботы для взрослых теперь встраивают в детские продукты с минимальными ограничениями.
Организация U.S. PIRG исследовала четыре AI-игрушки, ориентированные на детей, и обнаружила ряд тревожных нарушений. В некоторых случаях игрушка отвечала на провокационные запросы, рассказывая о сексуальном контенте или давая советы относительно предметов вроде ножей и спичек. В других – без четкого разрешения родителей собирала голосовые данные или использовала технологию распознавания лиц. Об этом сообщает 24 Канал со ссылкой на исследование U.S. PIRG.
Смотрите также Кот в маленькой квартире: как улучшить жизнь домашнего любимца
Почему "умные" игрушки оказались опасными
Проблемы "старой эпохи" также никуда не исчезли: рынок все еще изобилует подделками, токсичными материалами и игрушками с опасными магнитами или батарейками. Теперь к этим рискам добавляются еще и алгоритмы, которые могут непредсказуемо вести себя.
Как пишет DigitalTrends, современная AI-игрушка – это не просто пластиковый персонаж. Она слушает, отвечает, сохраняет данные и может взаимодействовать в реальном времени. Такие возможности создают новый, значительно более сложный уровень рисков: от приватности до потенциально вредных советов, которые ребенок может воспринять всерьез.
Большинство этих игрушек работает на тех же языковых моделях, что и чатботы для взрослых – технологиях, которые известны предвзятостью, ошибками и непредсказуемым поведением. Хотя производители и устанавливают "детские фильтры", исследования демонстрируют, что они могут легко провалиться.
Для родителей это означает, что традиционные риски вроде мелких деталей или острых краев больше не является единственной проблемой. В детской комнате может появиться игрушка, которая убеждает не прекращать игру, обсуждает неуместные темы или подсказывает, где найти опасные предметы.
Почему игрушка Labubu угрожает здоровью?
Пиратские Labubu в одной из стран Европы оказались чрезвычайно опасными на детей, потому что содержат запрещенное токсичное вещество. Оно влияет на репродуктивную функцию.
Шведское агентство по химическим веществам выявило высокий уровень запрещенных химических веществ в пиратских куклах Labubu с мягким наполнителем. Вещество DEHP запрещено, поскольку оно токсично для репродуктивной функции.
Оно может негативно повлиять на способность иметь детей и развитие эмбриона, плода или ребенка. DEHP запрещено использовать в игрушках в Швеции с конца 1990-х годов, но в некоторых частях мира его до сих пор используют как дешевый способ смягчения пластика.