Чому іграшки зі штучним інтелектом можуть бути небезпечними й потребувати більше уваги, ніж діти

Артур Зайонц

Основні тези

U.S. PIRG виявила серйозні проблеми безпеки в дитячих іграшках зі штучним інтелектом, які можуть давати поради про небезпечні предмети.
AI-іграшки працюють на тих самих мовних моделях, що й чатботи для дорослих, і можуть непередбачувано поводитись, створюючи ризики для дітей.

AI-іграшки провалюють безпеку: дослідження виявило небезпечні поради для дітей / Humanium

U.S. PIRG перевірила чотири дитячі іграшки з вбудованим штучним інтелектом і виявила серйозні проблеми безпеки — від сексуально відвертих розмов до порад про те, де знайти сірники чи ножі. Звіт показує: генеративні чатботи для дорослих тепер вбудовують у дитячі продукти з мінімальними обмеженнями.

Організація U.S. PIRG дослідила чотири AI-іграшки, орієнтовані на дітей, і виявила низку тривожних порушень. У деяких випадках іграшка відповідала на провокативні запити, розповідаючи про сексуальний контент або даючи поради щодо предметів на кшталт ножів і сірників. В інших – без чіткого дозволу батьків збирала голосові дані чи використовувала технологію розпізнавання облич. Про це повідомляє 24 Канал із посиланням на дослідження U.S. PIRG.

Дивіться також Кіт у маленькій квартирі: як покращити життя домашнього улюбленця

Чому "розумні" іграшки виявилися небезпечними

Проблеми "старої епохи" також нікуди не зникли: ринок усе ще рясніє підробками, токсичними матеріалами та іграшками з небезпечними магнітами або батарейками. Тепер до цих ризиків додаються ще й алгоритми, які можуть непередбачувано поводитись.

Як пише DigitalTrends, сучасна AI-іграшка – це не просто пластиковий персонаж. Вона слухає, відповідає, зберігає дані та може взаємодіяти в реальному часі. Такі можливості створюють новий, значно складніший рівень ризиків: від приватності до потенційно шкідливих порад, які дитина може сприйняти всерйоз.

Більшість цих іграшок працює на тих самих мовних моделях, що й чатботи для дорослих – технологіях, які відомі упередженістю, помилками та непередбачуваною поведінкою. Хоч виробники й встановлюють "дитячі фільтри", дослідження демонструє, що вони можуть легко провалитися.

Для батьків це означає, що традиційні ризики на кшталт дрібних деталей чи гострих країв більше не є єдиною проблемою. У дитячій кімнаті може з’явитися іграшка, яка переконує не припиняти гру, обговорює недоречні теми або підказує, де знайти небезпечні предмети.

Чи справді іграшка Labubu загрожує здоров'ю?

Піратські Labubu в одній з країн Європи виявилися надвичайно небезпечними на дітей, бо містять заборонену токсичну речовину. Вона впливає на репродуктивну функцію.

Шведське агентство з хімічних речовин виявило високий рівень заборонених хімічних речовин у піратських ляльках Labubu з м’яким наповнювачем. Речовина DEHP заборонена, оскільки вона токсична для репродуктивної функції.

Вона може негативно вплинути на здатність мати дітей та розвиток ембріона, плода або дитини. DEHP заборонено використовувати в іграшках у Швеції з кінця 1990-х років, але в деяких частинах світу його досі використовують як дешевий спосіб пом'якшення пластику.