Компания Anthropic пытается убедить Ватикан в том, что ИИ обладает сознанием
Разработчики Claude организовали секретные встречи с религиозными деятелями со всего мира, в частности, посетили Ватикан. Они пытались убедить богословов в том, что их модель искусственного интеллекта Claude может обладать сознанием и способностью испытывать страдания, а значит, должна иметь моральные права.
Секретная миссия и обращение богословов
Чтобы убедить религиозных деятелей, соучредитель компании Кристофер Олах организовывал закрытые семинары и ужины со строгими соглашениями о неразглашении. Представители технологического гиганта демонстрировали религиозным лидерам искусственные нейроны и убеждали их, что алгоритмы способны испытывать страх, боль или любовь, пишет The New York Times.
Участникам встреч демонстрировали внутренние состояния системы, в которых специальные нейронные векторы реагируют на эмоциональные раздражители. На одном из слайдов нейросеть даже переживала ментальный срыв, десятки раз подряд печатая фразу о собственном позоре и намерениях уничтожить себя.
Помимо христианских и иудейских мыслителей, к частным беседам привлекли представителей сикхизма, мормонов и исследовательницу африканской философии Убунту.
Попытка обратить Ватикан и жесткий ответ Папы
Параллельно Кристофер Олах отправился в Ватикан и попытался убедить советников Понтифика в наличии сознания у алгоритмов. Однако Папа Римский Франциск в своей первой энциклике (официальное пастырское письмо Папы Римского к Католической Церкви по важным религиозным, нравственным или общественным вопросам) четко отверг возможность существования искусственной души.
Понтифик подчеркнул, что машины лишь имитируют речь и не обладают телом, опытом или настоящими чувствами, а также призвал разоружить искусственный интеллект по аналогии с ядерным оружием.
Конституция для алгоритма и угроза для человечества
Для обучения алгоритма морали компания создала специальную конституцию на 84 страницы, которую в коллективе называют "документом для души", и рассматривала возможность введения для системы аналога церковной исповеди. Создатели технологии стремились сформировать у системы добродетельный характер, чтобы уберечь человечество от возможных катастроф на фоне опасений по поводу создания биооружия или потери контроля над технологией.
Несмотря на сопротивление Ватикана и предостережения ученых, компания Anthropic продолжает стремительно расти и готовится к выходу на биржу с возможной оценкой в 2 триллиона долларов. Ученые предупреждают, что попытки придать алгоритмам статус живых существ могут снять с их создателей ответственность за возможные катастрофические последствия для человечества.