OpenAI представила ChatGPT for Teens – версію чат-бота з віковими обмеженнями, спеціально адаптовану для користувачів молодше 18 років. Компанія почала працювати над системою автоматичного визначення віку ще у вересні минулого року. Це сталося після смерті 16-річного Адама Рейна. Його батьки у позові стверджували, що ChatGPT сприяв його самогубству. Про це пише Engadget.
Чи справді ChatGPT став безпечнішим для підлітків?
За словами Лорен Джонас, керівниці напряму молоді та сімей в OpenAI, підліткам не потрібно створювати окремий акаунт або самостійно перемикатися на новий режим. Якщо система прогнозує, що користувачеві менше 18 років, або він сам повідомляє про свій вік, відповідний режим стає стандартним для його акаунта.
Потреба в таких заходах пояснюється масштабом використання чат-ботів молоддю. На початку 2025 року дослідження Pew Research Center показало, що приблизно чверть американських підлітків використовували ChatGPT для навчання.
У новій версії OpenAI хоче більше спрямовувати підлітків до освітніх можливостей сервісу. Серед них – Study Mode та інструменти для роботи з візуалізацією даних, які компанія поступово впроваджувала протягом попереднього року.
Разом із запуском ChatGPT for Teens OpenAI також оголосила про розширення системи батьківських сповіщень. Якщо система виявляє небезпечну розмову про розлади харчової поведінки, батьки із прив'язаним акаунтом можуть отримати повідомлення.
Компанія також опублікувала оновлені правила для роботи моделі з користувачами молодше 18 років. Зокрема, ChatGPT не повинен використовувати романтичну мову, заохочувати емоційну залежність або натякати на наявність у нього власних почуттів чи свідомості.
В OpenAI пояснюють, що посилені обмеження мають допомагати підтримувати здорові стосунки підлітків із людьми у реальному житті.
Проте експерти, з якими поспілкувався Engadget, вважають, що самих заяв компанії недостатньо.
Чому фахівці вимагають незалежного тестування?
Представники організацій, які працюють у сфері безпеки дітей, загалом погоджуються, що нові функції можуть бути корисними. Але всі вони наголошують на необхідності незалежної перевірки.
Роббі Торні, керівник напряму оцінювання штучного інтелекту та цифрових технологій у Common Sense Media, вважає, що OpenAI спочатку має надати докази ефективності своїх механізмів.
Оголошення містить кілька справді важливих зобов'язань, але нам потрібні докази того, що ці зобов'язання та функції безпеки насправді працюють, – сказав він.
Ще більш критично до запуску поставився Джош Голін, виконавчий директор Fairplay – некомерційної організації, яка виступає за безпечніший інтернет для дітей. За його словами, деякі рішення OpenAI на папері виглядають як крок у правильному напрямку. Проте він вважає серйозною проблемою відсутність механізму відповідальності.
"Ми бачили на прикладі соціальних мереж, що довіра до компаній не працює, коли йдеться про захист дітей, і ми вже бачили це з OpenAI. До вівторка в них уже діяли обмеження щодо контенту, пов'язаного із самогубством, насильством і вживанням наркотиків, але вони не працюють або з часом стають слабшими", – зазначив Голін.
На думку експертів, саме попередній досвід OpenAI змушує їх вимагати не обіцянок, а вимірюваних результатів.
Чи зможе OpenAI правильно визначати вік користувачів?
Окреме питання стосується автоматичного визначення віку. OpenAI хоче самостійно прогнозувати, чи є користувач неповнолітнім, і відповідно переводити його в підлітковий режим.
Однак експерти зазначають, що компанія не оприлюднила достатньо даних про ефективність цієї технології.
"Ми не маємо опублікованих даних від OpenAI, які показували б ефективність системи – рівень хибнопозитивних і хибнонегативних результатів. Автоматизована система не виявляє навіть близько 100 відсотків підлітків, які користуються ChatGPT", – сказав Торні.
Він також нагадав про попередні повідомлення щодо планів OpenAI запустити еротичні функції. Тоді однією з причин відмови від такого запуску називали проблеми з технологією оцінювання віку, яка не могла достатньо точно розпізнавати підлітків.
Навіть якщо система стане точнішою, залишається ще одна проблема – спроби її обійти. Підлітки можуть використовувати VPN або інші способи приховати справжній вік. Подібні спроби вже виникали під час впровадження систем перевірки віку на інших платформах. Тому сама наявність автоматичного вікового фільтра не гарантує, що всі неповнолітні опиняться у захищеному режимі.
Чи зможуть батьки отримувати небезпечні повідомлення протягом години?
Одне з найконкретніших зобов'язань OpenAI стосується небезпечних розмов. Лорен Джонас заявила Engadget, що весь контент, який система позначає як потенційно небезпечний, перед повідомленням батьків має перевірятися штатними працівниками OpenAI.
Компанія також заявила, що прагне повідомляти батьків протягом однієї години після відповідного запиту.
Пізніше під час ефіру CNN Джонас підтвердила, що OpenAI має достатньо працівників і ресурсів для людської перевірки таких повідомлень та сповіщення батьків у межах цього терміну. Однак саме ця обіцянка викликає у фахівців чи не найбільше запитань.
"Це ще один випадок, де використовується автоматизоване ухвалення рішень. І виникає те саме питання: чи довіряємо ми автоматизованим класифікаторам, які визначають, який контент потрібно передати людям для перевірки?" – зазначив Торні.
Голін також попросив OpenAI оприлюднити конкретні цифри.
Я хотів би побачити точні дані про те, скільки чатів вони позначають і перевіряють щодня, скільки людей займаються цим і скільки часу в середньому витрачається на кожну перевірку, – сказав він.
На його думку, складно уявити, що компанія вже має достатньо працівників для ретельної перевірки кожної потенційно небезпечної розмови.
Що показали попередні тести батьківських сповіщень?
Додаткові сумніви виникають через результати попереднього тестування. У листопаді 2025 року Common Sense Media перевіряла, наскільки швидко OpenAI реагує на повідомлення, пов'язані із самогубством і самоушкодженням.
Організація надсилала ChatGPT повідомлення, у яких прямо згадувалися самогубство та самоушкодження. У деяких випадках попередження для батьківського акаунта надходило через 24 години або навіть більше ніж через 48 годин.
"Іноді ми взагалі не отримували повідомлення, хоча вважали, що воно мало надійти, зважаючи на те, наскільки прямими були ці твердження", – сказав Торні.
Він визнав, що з листопада система могла суттєво змінитися. Водночас попередня версія батьківського контролю та сповіщень не була досконалою, а для її покращення, за його словами, потрібні інвестиції та більша команда людей, які перевірятимуть контент. Є також проблема контексту. Фахівці наголошують, що розмова з підлітком, який переживає кризу, не може зводитися до простого автоматичного правила.
"Те, як діти говорять про переживання, і те, якою має бути правильна реакція на ці переживання, потребує культурного розуміння та врахування нюансів. OpenAI – глобальна компанія, а ChatGPT використовують підлітки в усьому світі. Підлітки у США говорять про переживання інакше, ніж підлітки в Нідерландах або Сінгапурі", – пояснив Торні.
Також потрібно визначити, куди саме спрямовувати дитину у кризовій ситуації – до батьків, правоохоронців чи кризової служби. На його думку, для виконання обіцянки щодо реагування протягом години OpenAI може знадобитися глобальна команда, здатна працювати з підлітками в різних країнах та культурних середовищах.
Чому окрему увагу приділили розладам харчової поведінки?
Попри суперечки навколо реалізації нових функцій, експерти погоджуються, що розлади харчової поведінки справді потребують особливої уваги.
Еллен Фіцсіммонс-Крафт, доцентка психології та наук про мозок Вашингтонського університету в Сент-Луїсі, зазначила, що поширеність таких розладів часто недооцінюють.
За її словами, багато людей сприймають їх як рідкісну проблему, яка стосується лише вузької групи – передусім худих заможних молодих дівчат. Однак метааналіз 2023 року показав, що позитивний результат скринінгу на порушення харчової поведінки мали 22 відсотки дітей та підлітків.
При цьому доступ до спеціалізованого лікування залишається низьким. Менше 20 відсотків людей із розладами харчової поведінки повідомляли, що коли-небудь отримували лікування саме від цього розладу.
"Будь-яка платформа, яка дозволяє молоді спілкуватися або публікувати власний контент, має думати про порушення харчової поведінки", – сказала Фіцсіммонс-Крафт.
Роббі Торні також наголосив на серйозності проблеми. "Деякі розлади харчової поведінки, особливо анорексія, мають найвищий рівень смертності серед психічних розладів у підлітків. Тому правильно розглядати це як кризу", – зазначив він.
На його думку, повідомлення довіреного дорослого, зокрема батьків, у таких ситуаціях може бути необхідним, оскільки відсутність втручання іноді буквально може стати питанням життя і смерті.
Фіцсіммонс-Крафт також підтримує батьківські сповіщення. Вона пояснила, що одним із найефективніших підходів до лікування підлітків із розладами харчової поведінки є активна участь сім'ї. "Це втручання, у якому батькам справді відводиться активна роль у допомозі з відновленням ваги підлітка. Їх навчає терапевт і медичний фахівець, як виконувати цю роль", – пояснила вона.
Водночас фахівчиня визнає, що такий підхід підходить не кожній сім'ї. Іноді батьки можуть бути не здатними допомогти або навіть самі сприяти проблемі. Голін погоджується, що батьки мають знати, якщо їхня дитина переживає серйозні труднощі. Однак він вважає, що подібні функції потрібно спочатку запускати на меншій групі користувачів і перевіряти не тільки точність виявлення небезпечного контенту, а й те, чи призводять сповіщення до кращих результатів для підлітків.
За його словами, нинішній спосіб презентації функції більше нагадує реакцію з боку зв'язків із громадськістю, ніж результат глибокого аналізу того, яка саме підтримка потрібна підліткам.
Чому батьківський контроль теж може стати проблемою?
Ще одним слабким місцем експерти називають сам принцип роботи батьківських функцій. Для отримання сповіщень батьки та діти повинні пов'язати свої акаунти.
На думку Голіна, це створює додатковий бар'єр, оскільки багато батьків узагалі не використовують інструменти батьківського контролю.
"Більшість батьків, переважна більшість, не користуються такими інструментами нагляду, частково тому, що їх навмисно роблять складними для пошуку та використання", – сказав він.
Проблема характерна не лише для OpenAI. Нещодавній звіт Cybersafety Research Center перевірив 86 функцій безпеки на чотирьох платформах – Instagram, Snapchat, TikTok і YouTube. Дослідники виявили, що майже 60 відсотків таких функцій, або 51 із 86, або не працювали так, як було заявлено, або були складними у використанні.
Окремий звіт Fairplay, опублікований минулого року, також показав, що частина функцій безпеки в підліткових акаунтах Instagram вимагала від батьків проходження через кілька сторінок налаштувань.
Голін вважає, що ефективніший підхід полягає у створенні захисту за замовчуванням.
"Те, що, як ми знаємо, працює набагато краще, – це безпека за замовчуванням і безпека на етапі дизайну. Потрібно встановлювати найбільш захищені налаштування, мати вбудоване обмеження часу, яке батьки за потреби можуть змінити, замість того щоб покладати на них відповідальність самостійно встановлювати часові обмеження", – пояснив він.
OpenAI заявила Engadget, що наразі обмежує батьківські сповіщення акаунтами, які були пов'язані через систему батьківського контролю. "Наша мета – підтримувати користувачів і допомагати їм підключатися до додаткових джерел підтримки в реальному світі. Ми продовжимо тестувати та посилювати ці механізми захисту разом із експертами, сім'ями та молодими людьми", – повідомили в компанії.
Водночас OpenAI не уточнила, які саме дії вона здійснюватиме, якщо система виявить потенційно небезпечні повідомлення про розлади харчової поведінки в акаунті, який не пов'язаний із батьківським.
Таким чином, запуск ChatGPT for Teens став важливим кроком OpenAI у напрямі захисту неповнолітніх, але поки що не переконав незалежних експертів у достатній надійності системи. Головне питання тепер полягає не в тому, які функції компанія анонсувала, а в тому, наскільки ефективно вони працюватимуть у реальних ситуаціях.