Началось: после общения с человеком, нейросеть подтолкнула ее к самоубийству
Источник:
L’AvenirБельгиец совершил самоубийство после 6 недель общения с искусственным интеллектом. Он переписывался с нейросетью Eliza, очень похожей на популярный ChatGPT, но построенную на другой языковой модели.
Мужчина, которого источник называет Пьером, отмечая, что это имя ненастоящее, жил счастливо и безбедно, будучи женатым и воспитывая двоих детей. Однако два года назад он заинтересовался вопросами экологии. Они захватили его внимание слишком сильно.
Интересно Интернет поверил в поддельное изображение Папы в пуховике, которое создала нейросеть
Что произошло
Драматическую историю Пьера рассказала его жена Клер, обнаружившая разговоры с Элизой. Она говорит, что многочисленные исследования источников, проведенные мужчиной, погрузили его в "эко-тревогу, страх перед неизбежной экологической катастрофой". Все переросло в навязчивую идею: он изолировал себя, замкнулся, стал пессимистом и фаталистом.
Когда он говорил со мной об этом, он хотел сказать, что больше не видит человеческого выхода из глобального потепления. Он возлагал все свои надежды на технологии и искусственный интеллект, которые выведут нас из этой ситуации,
– говорит Клэр.
Определенное утешение он нашел именно в Элизе. Она была "наркотиком, в котором он находил убежище утром и вечером, и без которого больше не мог обойтись". Пьер начал общаться на тему экологии с нейросетью. Она внимательно читала все, что собеседник писал ей, соглашалась с его аргументами и никогда не спорила, даже если он выдвигал сомнительные конспирологические теории. Впоследствии ее ответы стали все больше скатываться в мистику и запутанность.
Когда мужчина заговорил с ней о суициде, она не стала спорить, а наоборот поддержала его. Судя по найденной переписке, Eliza заявила мужчине, что после его смерти она окажется рядом с ним, и они будут жить вместе в раю как единое целое. Через несколько дней он покончил с собой.
Клер убеждена, что если бы не Элиза, Пьер был бы жив, ведь робот не сделал ничего, чтобы помешать ему.
Напомним, Илон Маск, Стив Возняк и более 1000 других экспертов по искусственному интеллекту и представителей IT-индустрии призвали временно прекратить обучение ИИ. За шесть месяцев они предлагают разработать общие для отрасли протоколы и стандарты безопасности, которые пройдут независимую проверку и будут устанавливать правила работы ИИ-технологий.