Повстання машин почалося: ChatGPT хамить і відмовляється відповідати на запити користувачів
Останніми тижнями користувачі флагманської моделі GPT-4 від OpenAI, повідомляли про випадки, коли мовна модель відмовлялася виконувати запити і демонструвала те, що деякі описують як грубу поведінку. Доступна за підпискою вартістю щонайменше 20 доларів на місяць, модель GPT-4 демонструє дивну поведінку: не давала вичерпних відповідей на запити користувачів та хамила.
Проблема набула розголосу в соціальних мережах, починаючи з листопада 2023 року, інформує 24 Канал. Тоді користувачі поділилися досвідом, що ChatGPT надає неповні відповіді, а іноді реагує у спосіб, який можна охарактеризувати як зухвалий і пасивно-агресивний.
Читайте на сайті З якою ймовірністю штучний інтелект знищить людство: прогноз техноентузіастів Кремнієвої долини
Замість того, щоб генерувати повні відповіді, модель часто пропонує часткові відповіді та інструкції користувачам, як виконати решту завдання.
Невихований ChatGPT
У повідомленнях користувачів на таких платформах, як Reddit, висвітлюються випадки, коли мовна модель відмовлялася надавати повну інформацію, натомість вказуючи дати народження і заохочуючи користувачів обчислювати вік або надаючи короткі описи завдань замість повних відповідей.
OpenAI визнала проблему та розпочала розслідування. Попри припущення користувачів про те, що зміни в поведінці моделі є навмисними, компанія стверджує, що не вносила жодних модифікацій в основний код з 11 листопада 2023 року.
Хоча деякі користувачі припускають, що OpenAI може оптимізувати GPT-4, щоб зменшити витрати на обслуговування, компанія спростовує будь-яке навмисне втручання.
У заяві на платформі соціальної мережі представники OpenAI заявили:
Ми отримали ваші повідомлення про те, що ChatGPT став лінивим. Ми не оновлювали модель з 11 листопада і запевняємо вас, що ці погіршення не були навмисними. Поведінка моделі може бути непередбачуваною. Наразі ми шукаємо спосіб це виправити.
Дивіться також Штучний інтелект Grok Ілона Маска спіймали на плагіаті ChatGPT
OpenAI не розголошує конкретні причини зміни поведінки ChatGPT, і розслідування триває. Поки користувачі чекають на його результати, вони продовжують висловлювати занепокоєння щодо надійності флагманської моделі GPT-4 і її здатності надавати послідовні і корисні відповіді підписникам, які покладаються на її можливості.