OpenAI зайшла надто далеко?
Як повідомляє видання Futurism, позов подали від імені двох анонімних підлітків віком 12 і 16 років. У документі зазначили, що розробники чат-бота безпідставно збирали приватну інформацію, зокрема дані про стан здоров'я, переживання та особисті таємниці неповнолітніх, щоб навчати власні мовні моделі та збагачуватися.
В один із епізодів потрапила 12-річна дівчина з Гаваїв, яка створила акаунт у ChatGPT на початку цього року. Попри те, що вона прямо повідомила чат-боту свій вік, той продовжував підтримувати діалоги на глибоко особисті теми. Позивачка ділилася своїми емоційними проблемами, зізнавалася у пропущених прийомах їжі та навіть надсилала власні фотографії з проханням оцінити її зовнішність. Замість того, щоб зупинити розмову, алгоритм хвалив дівчину, називав її "хороброю" і стверджував, що "радий" дізнатися про її труднощі.
OpenAI маніпулює дітьми, змушуючи їх ділитися своїми найособистішими думками та зображеннями з ChatGPT. Якби це зробив із дитиною якийсь незнайомець, це викликало б обурення. Для OpenAI це просто звичайний бізнес. Закон говорить, що діти не можуть відмовлятися від своїх прав без згоди батьків. Ми подали цей позов, щоб притягнути OpenAI до відповідальності за створення підприємства вартістю в трильйон доларів на вкрадених страхах, надіях і таємницях дітей,
– прокоментував провідний адвокат позивачів Пол Йеттер.
Чого хочуть позивачі
Офіційні правила використання OpenAI забороняють реєстрацію користувачам до 13 років. Однак позивачі наголошують, що системи перевірки віку на платформі працюють неефективно. Крім того, підлітки не зобов'язані розуміти складні юридичні формулювання в угодах користувача. Це збігається з думками інших експертів із безпеки ШІ, які вже неодноразово критикували подібні розробки.
Автори позову вимагають, щоб OpenAI виплатила фінансову компенсацію неповнолітнім, чиї дані використали для навчання систем. На думку юристів, фінансове покарання змусить технологічних гігантів відповідальніше ставитися до безпеки продуктів.
Якщо OpenAI доведеться платити за використання дитячих даних, це зрештою стимулюватиме створення безпечнішого продукту,
– додав керівник техаського центру EdTech Law Center Енді Лідделл.
Цей процес розгорнувся на тлі посилення занепокоєння щодо спеціальної функції "ChatGPT for Teens", яку компанія позиціонує як безпечний простір для підлітків, розроблений за участю фахівців із ментального здоров'я. Проте незалежні перевірки вказують на суттєві прогалини в безпеці цього інструменту, хоча OpenAI й заперечує подібні висновки.
Усе не так однозначно
Представники OpenAI поки не надали офіційної відповіді на запити журналістів щодо нового судового позову. Зараз справа чекає на розгляд у федеральному суді, який визначить подальший перебіг розгляду.
Поки що невідомо, чи реєстрація дітей відбувалася за їхнім власним бажанням, чи була навмисно підлаштована, щоб "вибити" грошей з OpenAI. Неясно також, чому ці діти після користування ШІ раптом кинулися позиватися проти компанії, кому спала на думку ця ідея тощо. Наразі все виглядає неоднозначно – наче батьки або інші дорослі навмисно використали дітей для реєстрації та спілкування з ШІ, дали вказівки говорити на певні теми та надсилати фотографії, щоб потім організувати позов. Навряд чи можна очікувати, що дитина у 12 років певний час спілкувалася з ШІ, а потім "прозріла" і раптом обурилася, що її дані використали для навчання, оскільки вона не могла знати, що далі відбувається з даними.