Чат-бот Google, Бард, припустився серйозної помилки під час презентації, але він такий не один
Компанія Google запустила свого чат-бота Bard, щоб конкурувати з ChatGPT від OpenAI. Очікується, що Bard стане "більш доступним для громадськості в найближчі тижні". Однак дебют бота не обійшовся без проблем: експерти відзначили, що в першій демонстраційній версії Bard припустився фактичної помилки.
Як повідомляє 24 Канал, на помилку звернули увагу в соціальних мережах астрофізики, які вказали, що твердження про те, що космічний телескоп Джеймса Вебба зробив перший знімок планети за межами нашої Сонячної системи, є некоректним. Перший знімок екзопланети був зроблений у 2004 році.
Читайте на сайті Китайська компанія готує конкурента ChatGPT під назвою Ernie Bot
Чому чат-боти видають факти за істину
Цей інцидент загострює увагу на важливій проблемі з чат-ботами на базі штучного інтелекту, такими як ChatGPT, Bard та іншими аналогами. Усі вони схильні видавати неправдиву інформацію за факт. Ці системи "галюцинують" або вигадують інформацію, оскільки вони, по суті, є системами автозаповнення, які навчаються на великих масивах тексту. Ця імовірнісна природа призвела до того, що деякі експерти називають ці системи "генераторами нісенітниць".
Як Microsoft спробувала вирішити проблему
Компанія Microsoft, яка нещодавно продемонструвала свою оновлену пошукову систему Bing зі штучним інтелектом, зробила кроки для вирішення цих проблем, поклавши відповідальність на користувача. У відмові від відповідальності Bing йдеться про те, що "можливі сюрпризи і помилки", і закликає користувачів перевіряти факти і надавати зворотний зв'язок для поліпшення системи.
Однак зі зростанням використання чат-ботів зі штучним інтелектом як пошукових систем проблема неправдивої та оманливої інформації, що подається як факт, стає все більш очевидною.