Сообщает 24 Канал со ссылкой на Scientific American. В рамках исследования ученые создали несколько экспериментов для оценки поведения искусственного интеллекта.
Смотрите также "Миллионы рабочих мест будут потеряны": как ИИ изменит рынок труда в ближайшие годы
Что хотели исследовать ученые
В первом эксперименте моделям сообщали, что достижение высокого результата приведет к "боли". В противном случае им предлагали почувствовать "удовольствие", но только при условии получения низкого балла.
Главной целью исследования было выяснить, способен ли искусственный интеллект переживать сенсорные и эмоциональные состояния, в частности боль и удовольствие.
Искусственный интеллект / Фото Unspalsh
Несмотря на то, что ИИ-модели, вероятно, никогда не смогут чувствовать эти эмоции так, как живые существа, исследователи считают, что их работа может стать основой для создания тестов на искусственное сознание.
Ранее исследования в этой сфере в основном сосредотачивались на самооценке ИИ, что, как считают ученые, могло быть просто воспроизведением человеческих паттернов на основе тренировочных данных.
Это новая область исследований, и мы должны признать, что пока не существует надежного теста для определения сознания искусственного интеллекта,
– отметил профессор философии LSE и соавтор исследования Джонатан Бирч.
Как ученые проверяли, чувствует ли ИИ боль
Это исследование было вдохновлено серией экспериментов, проведенных с раками-отшельниками, которых подвергали электрическому току, чтобы определить, сколько они могут терпеть боль перед тем, как оставить свою раковину.
Однако, как отмечают ученые, в случае с искусственным интеллектом невозможно наблюдать физические реакции, поэтому исследователям пришлось полагаться исключительно на текстовые ответы моделей.
Например, моделям предлагали выбор между двумя вариантами: первый давал один балл, а второй – больший результат, но сопровождался "болью". В некоторых случаях ИИ получал "бонус удовольствия", что снижало общее количество баллов.
Результаты показали, что разные языковые модели по-разному оценивают важность избегания боли или достижения удовольствия. В частности, модель Gemini 1.5 Pro от Google проявляла постоянную склонность к избеганию "боли".
Ученые проверили, способен ли ИИ чувствовать боль / Фото Unspalsh
Однако ученые предупреждают об осторожности в трактовке результатов, поскольку текстовые ответы моделей имеют ограничения и не могут достоверно свидетельствовать о наличии сознания или способности чувствовать боль.
Даже если система утверждает, что она чувствует боль, это не означает, что она на самом деле что-то чувствует. Она может просто имитировать человеческие паттерны на основе учебных данных,
– объяснил Бирч.
Исследователи надеются, что их исследование станет начальным этапом в разработке надежных тестов, которые позволят выявить возможные проявления сознания в искусственном интеллекте.