Компанія OpenAI вирішила на невизначений термін відкласти запуск чатбота з еротичним контентом. Проєкт викликав серйозні дискусії всередині компанії та занепокоєння серед інвесторів. Про це пише Engadget.
Дивіться також ChatGPT змінює формат онлайн-шопінгу: що буде з покупками в додатку
Чому OpenAI відмовилась від adult-чатбота?
Ідею такого функціоналу вперше озвучили у жовтні 2025 року – запуск планували на грудень, але його неодноразово переносили. Чатбот, відомий під внутрішньою назвою Citron mode, зрештою так і не отримав дати релізу.
Однією з головних проблем стала складність навчання моделей. Системи, які раніше спеціально обмежували еротичний контент, потрібно було переналаштувати. При цьому виникали ризики появи незаконних або небезпечних сценаріїв, зокрема пов’язаних із забороненими темами.
У самій OpenAI заявили, що наразі бракує достатньої кількості досліджень щодо впливу подібних функцій на користувачів. Зокрема, йдеться про питання емоційної прив’язаності до ШІ та довгострокові наслідки таких взаємодій.
Ще один фактор – зміна пріоритетів. Компанія вирішила зосередитися на ключових продуктах, таких як інструменти для програмування, і відкласти менш критичні напрями. Це вже другий подібний крок за тиждень: раніше OpenAI оголосила про згортання відеогенератора Sora.
Як пише The FT, ідея створення adult-функцій з’явилася після того, як компанія анонсувала механізми батьківського контролю та автоматичного визначення віку в ChatGPT. Генеральний директор Sam Altman тоді зазначав, що OpenAI традиційно обережно ставиться до таких тем, але допускає часткове пом’якшення обмежень.
Втім, додатковий тиск створили і зовнішні фактори. Зокрема, скандали навколо Grok, який генерував дипфейки з оголеними зображеннями реальних людей, включно з неповнолітніми, посилили занепокоєння інвесторів.
Всередині компанії також не було єдності. Частина співробітників виступала проти запуску такого функціоналу, а один із керівників навіть залишив компанію, наголосивши, що ШІ не має замінювати людські стосунки.
Окремою проблемою залишається точність систем перевірки віку. Вони були впроваджені після судових позовів від родин, які заявляли про негативний вплив ChatGPT на дітей. За оцінками, рівень помилки перевищує 10%, що означає ризик доступу неповнолітніх до небажаного контенту. У компанії зазначають, що цей показник відповідає середньому рівню в індустрії, але робота над його покращенням триває.