ШІ здатен прикидатися менш розумним, ніж він є насправді, виявили дослідники

10 квітня 2024, 12:02
Читать новость на русском

У нещодавньому дослідженні, опублікованому в журналі PLOS One, вчені з Університету Гумбольдта в Берліні пролили світло на цікавий аспект просунутих моделей ШІ. Дослідження припускає, що ці моделі мають здатність діяти спеціально менш розумно, ніж вони могли б насправді, віддзеркалюючи певні стадії розвитку, які спостерігаються у дітей.

Під керівництвом Анни Маклової, наукового співробітника та експерта з психолінгвістики в Університеті Гумбольдта, дослідження заглибилося в концепцію "теорії розуму", яка вивчає розуміння психічних станів інших людей.

А тим часом Microsoft і OpenAI працюють над секретним суперкомп'ютером вартістю 100 мільярдів доларів

Деталі дослідження

Дослідницька група у співпраці з Карловим університетом у Празі зосередилася на оцінці того, чи можуть великі мовні моделі (LLM), такі як GPT-4 від OpenAI, імітувати етапи когнітивного розвитку дітей у віці від одного до шести років.

У серії з понад 1 000 випробувань і когнітивних тестів моделі, коли їх просили відповідати, як дитину, продемонстрували чудову здатність імітувати нижчі рівні інтелекту, подібні до рівня дітей у зазначеному віковому діапазоні.

Маклова наголосила, що хоча антропоморфізація ШІ може запропонувати спрощене розуміння, вона також може ввести в оману. Замість цього дослідження виступає за зміну парадигми в бік оцінки здатності ШІ конструювати образи, подібні до дитячих, які спостерігалися в експериментах.

Дослідниця припускає, що розуміння здатності ШІ імітувати низький рівень інтелекту може відіграти вирішальну роль у розвитку штучного суперінтелекту (ШІ) та гарантуванні його безпеки.

Дивіться також ChatGPT тепер можна використовувати без реєстрації: як це працює

Авторка закликає бути обережними і не недооцінювати можливості ШІ, а також акцентує на важливості визнання його потенціалу ефективно імітувати людську поведінку. Така зміна перспективи може прокласти шлях до більш безпечного розвитку технологій ШІ, уникнення пасток, пов'язаних з помилковими очікуваннями, і забезпечення відповідального розвитку.