OpenAI пощечала впроваджувати набір функцій безпеки для користувачів віком до 18 років. Компанія пояснює це необхідністю враховувати особливості розвитку підлітків і допомагати їм підтримувати здоровий баланс між використанням штучного інтелекту та реальним життям. Про це пише BBC.
Які зміни чекають на підлітків у ChatGPT?
Одним із головних нововведень стане можливість для власників нових підліткових акаунтів вимкнути голосові відповіді ChatGPT. Такий режим має зменшити здатність чатбота створювати враження спілкування з реальною людиною. OpenAI також додасть регулярні нагадування про необхідність зробити перерву. Система нагадуватиме користувачеві, що ChatGPT є штучним інтелектом, а розмову з ним можна продовжити пізніше.
Компанія наголошує, що нововведення не стали реакцією на конкретний випадок, коли дитина повірила в те, що чатбот є живою істотою. Водночас занепокоєння щодо сприйняття сучасних систем штучного інтелекту як свідомих істот останнім часом зростає.
Ще торік OpenAI пощечала впроваджувати набір функцій безпеки для користувачів віком до 18 років. Компанія пояснює це необхідністю враховувати особливості розвитку підлітків і допомагати їм підтримувати здоровий баланс між використанням штучного інтелекту та реальним життям. Про це пише BBC., керівник напрямку штучного інтелекту Microsoft, заявляв, що продукти, які "здаються свідомими", не дають йому спокою через потенційний вплив таких технологій на суспільство.
Як працюватимуть підліткові акаунти?
Для користувачів, які вказали під час реєстрації, що їм ще немає 18 років, підлітковий режим стане стандартним. Його також можуть застосовувати до людей, яких сама OpenAI визначить як неповнолітніх.
Водночас компанія поки не пояснила детально, яким саме способом визначатиме вік користувача. Дітям віком до 13 років ChatGPT, як і раніше, використовувати не дозволяється.
Підхід OpenAI частково нагадує моделі захисту неповнолітніх, які вже застосовують великі соціальні мережі. У компанії заявили, що використання штучного інтелекту підлітками має супроводжуватися захистом, який відповідає їхньому етапу розвитку, підтримує реальні соціальні зв'язки та сприяє здоровому використанню технології в довгостроковій перспективі.
Що зміниться у навчанні та часі використання?
Окремі нововведення стосуватимуться навчання. У ChatGPT вже існує Study Mode – режим, у якому система допомагає учням розбирати шкільні завдання, не видаючи одразу готову відповідь.
Тепер підлітки зможуть встановлювати години, коли Study Mode автоматично працюватиме як стандартний режим. Крім того, користувачі зможуть задавати "тихий час", протягом якого ChatGPT буде для них недоступним.
За даними OpenAI, близько 9 з 10 молодих людей, які користуються ChatGPT, роблять це для допомоги в навчанні.
На тлі цього питання використання ШІ студентами стає дедалі важливішим. Напередодні публікації BBC звітував про дослідження аналітичного центру Policy Exchange. Організація заявила, що значна частина університетів Великої Британії залишається вразливою до використання студентами штучного інтелекту під час оцінювання, зокрема через дистанційні онлайн-іспити.
У дослідженні 94% опитаних студентів заявили, що використовували технологію під час виконання оцінювань.
OpenAI посилює контроль за небезпечним контентом
Ще одна зміна стосуватиметься запитів, пов'язаних із розладами харчової поведінки. OpenAI додасть відповідні запити до переліку потенційно небезпечних звернень, інформація про які може передаватися батькам через пов'язані акаунти.
При цьому компанія зазначає, що кожне таке попередження перед відправленням батькам перевірятиме людина. OpenAI розраховує доставляти повідомлення протягом приблизно години після відповідного запиту.
У компанії пояснюють, що особливу увагу приділятимуть ситуаціям, коли підлітку може бути особливо потрібна підтримка поза межами цифрового середовища. ChatGPT також попереджатиме молодих користувачів про ризики передачі чатботу конфіденційної інформації.
Окремі фахівці вже порівнюють потенційний вплив надмірного використання штучного інтелекту з іншими звичками, які можуть мати довгострокові наслідки.
Сьюзен Шелмердайн, лікарка з медичної візуалізації у Great Ormond Street Hospital та дослідниця штучного інтелекту, раніше розповіла BBC, що в майбутньому лікарі можуть запитувати пацієнтів про частоту використання ШІ так само, як зараз запитують про куріння або вживання алкоголю.
Ми вже знаємо, що ультраоброблені продукти можуть робити з організмом, а це ультраоброблена інформація. На нас чекає лавина ультраоброблених свідомостей, – сказала вона.
Питання особливо актуальне для дітей та підлітків, які можуть сприймати розмовні системи штучного інтелекту інакше, ніж дорослі. Саме тому OpenAI тепер робить акцент не лише на блокуванні небезпечних запитів, а й на тому, щоб чатбот менше нагадував співрозмовника-людину.
Водночас спеціального законодавства щодо штучного інтелекту у Великій Британії поки немає. Уряд колишнього прем'єр-міністра Кіра Стармера раніше розглядав можливість обмеження доступу неповнолітніх до чатботів у межах ширших заходів щодо захисту дітей у соціальних мережах.
Підхід різних розробників до цього питання відрізняється. ШІ-система Claude від Anthropic залишається доступною лише дорослим користувачам. Google на початковому етапі запуску Gemini, який тоді називався Bard, також не дозволяв дітям користуватися сервісом.
Нові правила OpenAI фактично переводять ChatGPT для підлітків від звичайного універсального чатбота до окремого середовища з додатковими обмеженнями. Компанія намагається одночасно залишити молодим користувачам доступ до інструментів для навчання та зменшити ризики надмірної прив'язаності до системи, небезпечного контенту й передачі особистої інформації.