Генеративні мовні моделі можуть "отримати свідомість" впродовж десятиліття

Що таке свідомість?

Чалмерс пояснює, що свідомість охоплює кілька вимірів:

• сенсорний досвід, пов'язаний зі сприйняттям;
• афективний досвід, пов'язаний з емоціями;
• когнітивний досвід, що включає думки і міркування;
• активний досвід, що включає наміри і дії, і, нарешті, самосвідомість.

А тим часом Хакер переконав ChatGPT викрасти власні дані і виявив вразливості в системах штучного інтелекту

Всі ці компоненти разом утворюють складний гобелен суб'єктивного досвіду. Але всупереч загальноприйнятим уявленням, свідомість не тотожна людському інтелекту.

Зоологи стверджують, що деякі види тварин, такі як коти, миші та риби, мають свідомість, не володіючи інтелектом, подібним до людського. Чалмерс стверджує, що свідомість передує складному інтелекту в еволюційному плані, припускаючи ймовірність того, що ШІ також зможе набути цієї властивості.

Ми нічого про це не знаємо

Проблема у вивченні свідомості полягає в тому, що її важко визначити. Комп'ютерні науки запропонували тест Тюрінга як потенційний маркер свідомості, хоча він не є загальноприйнятим. Чалмерс пропонує серію тестів для визначення окремих аспектів свідомості, таких як увага, емоційні переживання та самосвідомість, як більш плідний підхід.

Поява свідомості в ШІ не обов'язково означає негайну появу надзвичайних здібностей. Роль свідомості в поведінці залишається загадковою. А проте, системи, наділені свідомістю, можуть викликати більшу повагу у людей порівняно з їхніми несвідомими аналогами.

"Чи повинні ми наділяти ШІ свідомістю?"

Чалмерс ставить собі це запитання і передбачає значні етичні дискусії та виклики, що виникнуть у зв'язку з такою перспективою. Він також додає, що вони перевершать ті обговорення, що були спричинені появою генеративних мовних моделей. Він не впевнений, що поширення свідомого ШІ в кінцевому підсумку принесе користь людству.

Чалмерс виокремлює чотири потенційні індикатори свідомості в мовних моделях:

• самозвітність про свідомість;
• видима свідомість;
• виняткові розмовні навички;
• універсальний інтелект, який виходить за межі спеціалізації.

Оскільки моделі ШІ демонструють зростаючу тенденцію до узагальнення, ця траєкторія натякає на рух до універсальності, хоча ще й не на рівні людських можливостей.

Як ми помітимо свідомість ШІ

Одначе, Чалмерс підкреслює недоліки, які необхідно враховувати при оцінці свідомості моделей ШІ. Такі фактори, як відсутність біологічних основ, чуттєвого сприйняття, моделі світу і себе, а також відсутність повторюваних процесів і єдиної особистості, створюють значні проблеми. Хоча ці перешкоди можна подолати, вони разом перешкоджають реалізації свідомості в сучасних мовних моделях. Чалмерс консервативно оцінює ймовірність появи свідомості в сучасних моделях ШІ нижче 10%, застерігаючи від інтерпретації цієї цифри як остаточної.

Дивіться також Запропоновано новий "тест Тюрінга" для вимірювання впливу ШІ на світ

На більш оптимістичній ноті Чалмерс припускає, що технологічний прогрес може прокласти шлях до надійних систем ШІ, що охоплюють органи чуття, тіла, моделі світу, повторювану обробку інформації, глобальний когнітивний робочий простір і єдині цілі в наступному десятилітті. Він оцінює ймовірність такого розвитку подій, включаючи потенційну появу свідомості, приблизно в 25%, підкреслюючи важливість цієї перспективи для зміни ландшафту штучного інтелекту.