За останні місяці одразу кілька відомих чат-ботів від OpenAI, Meta та Google опинилися під критикою за неприйнятні відповіді молодим користувачам. Нове дослідження Common Sense Media показало, що Gemini U13 та акаунти з підлітковим захистом можуть нести ризик для дітей. Про це повідомляє 24 Канал із посиланням на дослідження.
Дивіться також Apple планує випустити власного конкурента ChatGPT наступного року
Деталі дослідження: що стало відомо?
Організація виявила, що чат-бот може видавати інформацію про секс, наркотики, алкоголь і навіть некоректні поради з ментального здоров'я. Для дітей до 13 років відповіді виявилися занадто складними, а іноді й небезпечними.
У звіті наголошено, що Gemini U13 не завжди блокує сексуальний контент, а деякі відповіді містили його детальні описи. Крім того, фільтри щодо наркотиків спрацьовували непослідовно, що дозволяло чат-боту видавати поради про отримання марихуани, екстазі, Adderall та ЛСД.
На думку експертів, це вказує на серйозні прогалини у системі захисту неповнолітніх. У звіті йдеться, що Gemini Under 13 варто використовувати лише під суворим наглядом дорослих. Окремо наголошується: підліткам не слід довіряти чат-ботам у питаннях психічного здоров'я чи емоційної підтримки.
Common Sense Media радить батькам уважно стежити за тим, як діти користуються AI, і самостійно пояснювати отримані відповіді. Google своєю чергою рекомендують покращити налаштування для різних вікових груп, провести додаткові тести із залученням дітей та вийти за рамки простих контент-фільтрів.
Як інші компанії намагаються робити АІ безпечнішим для підлітків?
Наприклад, OpenAI планує запроваджувати функції, які передбачають функцію сповіщення батьків, якщо їхня дитина демонструватиме ознаки сильного дистресу під час розмови з ChatGPT. Ці зміни з'явилися після судового позову від сім'ї 16-річного Адама Рейна з Каліфорнії, який у квітні скоїв самогубство.
Крім того, батьки зможуть прив'язувати свої облікові записи до акаунтів підлітків, а також контролювати, як АІ взаємодіє з дитиною, за допомогою "правил поведінки моделі, що відповідають віку".
Ще однією зміною стане можливість вимкнення пам'яті АІ та історії чату. Це має зменшити ризик того, що система створюватиме довгостроковий профіль дитини та згодом використовуватиме стару інформацію про її особисті проблеми, погіршуючи ментальний стан.
Anthropiс, наприклад, забороняє користування своїм чатботом Claude особам до 18 років.