Как сообщает 24 Канал, на ошибку обратили внимание в социальных сетях астрофизики, которые указали, что утверждение о том, что космический телескоп Джеймса Вебба сделал первый снимок планеты за пределами нашей Солнечной системы, некорректно. Первый снимок экзопланеты был сделан в 2004 году.
Читайте на сайте Китайская компания готовит конкурента ChatGPT под названием Ernie Bot
Почему чат-боты выдают факты за истину
Этот инцидент заостряет внимание на важной проблеме с чат-ботами на основе искусственного интеллекта, такими как ChatGPT, Bard и другими аналогами. Все они склонны выдавать ложную информацию по факту. Эти системы "галюцинируют" или придумывают информацию, поскольку они, в сущности, являются системами автозаполнения, которые учатся на больших массивах текста. Эта вероятностная природа привела к тому, что некоторые эксперты называют эти системы. "генераторами чушей".
Как Microsoft попыталась решить проблему
Компания Microsoft, недавно продемонстрировала свою обновленную поисковую систему Bing с искусственным интеллектом, сделала шаги для решения этих проблем, положив ответственность на пользователя. В отказе от ответственности Bing говорится, что "возможны сюрпризы и ошибки", и призывает пользователей проверять факты и предоставлять обратную связь для улучшения системы.
Однако с ростом использования чат-ботов с искусственным интеллектом в качестве поисковых систем проблема ложной и обманчивой информации, подаваемой как факт, становится все более очевидной.