Сообщает 24 Канал со ссылкой на Scientific American. В рамках исследования ученые создали несколько экспериментов для оценки поведения искусственного интеллекта.

Смотрите также "Миллионы рабочих мест будут потеряны": как ИИ изменит рынок труда в ближайшие годы

Что хотели исследовать ученые

В первом эксперименте моделям сообщали, что достижение высокого результата приведет к "боли". В противном случае им предлагали почувствовать "удовольствие", но только при условии получения низкого балла.

Главной целью исследования было выяснить, способен ли искусственный интеллект переживать сенсорные и эмоциональные состояния, в частности боль и удовольствие.

Искусственный интеллект

Искусственный интеллект / Фото Unspalsh

Несмотря на то, что ИИ-модели, вероятно, никогда не смогут чувствовать эти эмоции так, как живые существа, исследователи считают, что их работа может стать основой для создания тестов на искусственное сознание.

Ранее исследования в этой сфере в основном сосредотачивались на самооценке ИИ, что, как считают ученые, могло быть просто воспроизведением человеческих паттернов на основе тренировочных данных.

Это новая область исследований, и мы должны признать, что пока не существует надежного теста для определения сознания искусственного интеллекта,
– отметил профессор философии LSE и соавтор исследования Джонатан Бирч.

Как ученые проверяли, чувствует ли ИИ боль

Это исследование было вдохновлено серией экспериментов, проведенных с раками-отшельниками, которых подвергали электрическому току, чтобы определить, сколько они могут терпеть боль перед тем, как оставить свою раковину.

Однако, как отмечают ученые, в случае с искусственным интеллектом невозможно наблюдать физические реакции, поэтому исследователям пришлось полагаться исключительно на текстовые ответы моделей.

Например, моделям предлагали выбор между двумя вариантами: первый давал один балл, а второй – больший результат, но сопровождался "болью". В некоторых случаях ИИ получал "бонус удовольствия", что снижало общее количество баллов.

Результаты показали, что разные языковые модели по-разному оценивают важность избегания боли или достижения удовольствия. В частности, модель Gemini 1.5 Pro от Google проявляла постоянную склонность к избеганию "боли".

Искусственный интеллект

Ученые проверили, способен ли ИИ чувствовать боль / Фото Unspalsh

Однако ученые предупреждают об осторожности в трактовке результатов, поскольку текстовые ответы моделей имеют ограничения и не могут достоверно свидетельствовать о наличии сознания или способности чувствовать боль.

Даже если система утверждает, что она чувствует боль, это не означает, что она на самом деле что-то чувствует. Она может просто имитировать человеческие паттерны на основе учебных данных,
– объяснил Бирч.

Исследователи надеются, что их исследование станет начальным этапом в разработке надежных тестов, которые позволят выявить возможные проявления сознания в искусственном интеллекте.