Повідомляє 24 Канал з посиланням на Scientific American. У рамках дослідження науковці створили кілька експериментів для оцінки поведінки штучного інтелекту.

Дивіться також "Мільйони робочих місць будуть втрачені": як ШІ змінить ринок праці в найближчі роки

Що хотіли дослідити науковці

У першому експерименті моделям повідомляли, що досягнення високого результату призведе до "болю". В іншому випадку їм пропонували відчути "задоволення", але лише за умови отримання низького балу.

Головною метою дослідження було з’ясувати, чи здатний штучний інтелект переживати сенсорні та емоційні стани, зокрема біль та задоволення.

Штучний інтелект

Штучний інтелект / Фото Unspalsh

Попри те, що ШІ-моделі, ймовірно, ніколи не зможуть відчувати ці емоції так, як живі істоти, дослідники вважають, що їхня робота може стати основою для створення тестів на штучну свідомість.

Раніше дослідження в цій сфері здебільшого зосереджувались на самооцінці ШІ, що, як вважають вчені, могло бути просто відтворенням людських патернів на основі тренувальних даних.

Це нова галузь досліджень, і ми маємо визнати, що наразі не існує надійного тесту для визначення свідомості штучного інтелекту,
– зазначив професор філософії LSE та співавтор дослідження Джонатан Бірч.

Як науковці перевіряли, чи відчуває ШІ біль

Це дослідження було натхненне серією експериментів, проведених з раками-самітниками, яких піддавали електричному струму, щоб визначити, скільки вони можуть терпіти біль перед тим, як залишити свою мушлю.

Однак, як зазначають вчені, в разі зі штучним інтелектом неможливо спостерігати фізичні реакції, тому дослідникам довелося покладатися виключно на текстові відповіді моделей.

Наприклад, моделям пропонували вибір між двома варіантами: перший давав один бал, а другий – більший результат, але супроводжувався "болем". У деяких випадках ШІ отримував "бонус задоволення", що знижувало загальну кількість балів.

Результати показали, що різні мовні моделі по-різному оцінюють важливість уникнення болю або досягнення задоволення. Зокрема, модель Gemini 1.5 Pro від Google виявляла постійну схильність до уникнення "болю".

Штучний інтелект

Вчені перевірили, чи здатен ШІ відчувати біль / Фото Unspalsh

Однак вчені попереджають про обережність у трактуванні результатів, оскільки текстові відповіді моделей мають обмеження і не можуть достовірно свідчити про наявність свідомості чи здатності відчувати біль.

Навіть якщо система стверджує, що вона відчуває біль, це не означає, що вона насправді щось відчуває. Вона може просто імітувати людські патерни на основі навчальних даних,
– пояснив Бірч.

Дослідники сподіваються, що їхнє дослідження стане початковим етапом у розробці надійних тестів, які дозволять виявити можливі прояви свідомості у штучному інтелекті.