Папа Лео XIV обнародовал свою первую энциклику под названием "Magnifica Humanitas" ("Величественная человечность"), в которой резко высказался о рисках искусственного интеллекта и призвал правительства мира жестче регулировать развитие AI-систем. Об этом пишет Reuters.
Смотрите также Люди выбирают роботов вместо политиков: на Филиппинах появился остров, которым управляет ИИ
Почему Ватикан призывает замедлить развитие AI?
Документ представили в Ватикане 25 мая. Основной темой энциклики стал именно искусственный интеллект, хотя Папа также коснулся войн, глобальной политики, социального неравенства и роли технологических корпораций.
Лев XIV заявил, что AI-системы уже сейчас могут распространять дезинформацию, усиливать конфликты и создавать риск "бесконечной войны". Особое беспокойство у понтифика вызвали автономные системы вооружения.
"Некоторые автономные системы вооружения продвинулись практически за пределы любого человеческого контроля", – отметил Папа во время презентации документа. Ватиканское мероприятие также посетил соучредитель Anthropic Крис Ола, чья компания создает AI-модель Claude.
Папа призвал сдержать конкуренцию между AI-компаниями
В 43-тысячном документе Лев XIV призвал политиков активнее вмешиваться в развитие технологий, а не оставлять сферу AI исключительно частным корпорациям.
"Нужно активное политическое участие, способное замедлить процессы тогда, когда все вокруг только ускоряется", – написал Папа.
Он также выступил за:
- создание жестких правовых рамок для AI;
- независимый надзор за технологическими компаниями;
- защиту работников;
- безопасность детей в цифровой среде;
- ограничение чрезмерной конкуренции между AI-компаниями.
Отдельно понтифик отметил, что данные для обучения искусственного интеллекта не должны оставаться исключительно в частной собственности крупных корпораций.
Как пишет CNN, Крис Ола во время выступления фактически согласился с критикой Ватикана. По его словам, AI-компании находятся под сильным коммерческим давлением. "Каждая ведущая AI-лаборатория, включая Anthropic, работает в системе стимулов и ограничений, которые иногда могут противоречить правильным решениям", – заявил он.
Ватикан выступил против AI-решений об убийстве людей
Одним из самых громких пунктов энциклики стало заявление о недопустимости передачи AI права принимать смертельные решения. Лев XIV прямо отметил, что использование искусственного интеллекта в военной сфере должно быть "под строжайшими этическими ограничениями".
"Недопустимо поручать AI-системам летальные решения", – подчеркнул Папа.
В документе также содержится одна из самых жестких за последние годы критик так называемой теории "справедливой войны", которую Католическая церковь использовала еще с V века для моральной оценки вооруженных конфликтов.
"Теория "справедливой войны", которая слишком часто использовалась для оправдания любой войны, теперь является устаревшей", – написал понтифик. Это заявление прозвучало на фоне недавней критики со стороны Льва XIV относительно войны Ирана и США, из-за чего он уже вызвал недовольство президента Donald Trump.
Папа сравнил AI с Вавилонской башней
В своей энциклике Лев XIV обратился и к библейской истории о Вавилонской башне. По его мнению, она демонстрирует опасность технологических проектов, которые стремятся "достичь небес без Божьего благословения".
"С сердцем пастыря и отца я прошу всех отказаться от строительства еще одной Вавилонской башни и объединиться ради общего блага", – заявил Папа. В то же время понтифик призвал не отчаиваться из-за масштабов проблемы AI.
"Соблазн заключается в мысли, что проблемы слишком велики, а мы слишком малы, поэтому наши решения ничего не меняют", – написал он.
Лев XIV извинился за роль Церкви в рабстве. Кроме темы искусственного интеллекта, энциклика коснулась исторической ответственности Католической церкви. Лев XIV признал, что Церковь слишком долго не осуждала трансатлантическую работорговлю, и попросил прощения от ее имени.
"Это является раной в христианской памяти. За это я искренне прошу прощения от имени Церкви", – заявил он.
Также Папа сравнил современную AI-индустрию с "новыми формами рабства". Он обратил внимание на условия труда людей, которые добывают редкоземельные элементы для производства смартфонов, компьютеров и AI-инфраструктуры. "Тела этих людей покрыты шрамами, травмами и истощением, чтобы вычислительные системы могли работать непрерывно", – написал Лев XIV.