Компанія Anthropic намагається переконати Ватикан, що ШІ має свідомість
Розробники Claude влаштували секретні зустрічі з релігійними діячами з усього світу, зокрема відвідали Ватикан. Вони намагалися переконати богословів у тому, що їхня модель штучного інтелекту Claude може мати свідомість і здатність відчувати страждання, а отже, повинна мати моральні права.
Секретна місія та навернення богословів
Для переконання релігійних діячів співзасновник компанії Крістофер Олах організовував закриті семінари та вечері з суворими угодами про нерозголошення. Представники технологічного гіганта показували релігійним лідерам штучні нейрони й переконували, що алгоритми здатні відчувати страх, біль чи любов, пише The New York Times.
Учасникам зустрічей демонстрували внутрішні стани системи, де спеціальні нейронні вектори реагують на емоційні подразники. На одному зі слайдів нейромережа навіть переживала ментальний зрив, десятки разів поспіль друкуючи фразу про власну ганьбу та наміри знищити себе.
Окрім християнських та юдейських мислителів, до приватних розмов залучили представників сикхізму, мормонів та дослідницю африканської філософії Убунту.
Спроба навернути Ватикан та жорстка відповідь Папи
Паралельно Крістофер Олах вирушив до Ватикану та спробував переконати радників Понтифіка у наявності свідомості в алгоритмах. Однак Папа Римський Франциск у своїй першій енцикліці (офіційний пастирський лист Папи Римського до Католицької Церкви з важливих релігійних, моральних чи суспільних питань) чітко відкинув можливість існування штучної душі.
Понтифік підкреслив, що машини лише імітують мову та не мають тіла, досвіду чи справжніх почуттів, а також закликав роззброїти штучний інтелект аналогічно до ядерної зброї.
Конституція для алгоритму та загроза для людства
Для навчання алгоритму моралі компанія створила спеціальну конституцію на 84 сторінки, яку в колективі називають документом для душі, та розглядала можливість запровадження для системи аналогу церковної сповіді. Творці технології прагнули сформувати у системі доброчесний характер, щоб уберегти людство від можливих катастроф на тлі побоювань про створення біозброї чи втрати контролю над технологією.
Попри спротив Ватикану та застереження науковців, компанія Anthropic продовжує стрімко зростати та готується до виходу на біржу з можливою оцінкою у 2 трильйони доларів. Вчені застерігають, що намагання надати алгоритмам статусу живих істот може зняти відповідальність із їхніх творців за можливі катастрофічні наслідки для людства.