Эдвард Сноуден обвинил создателей ChatGPT в предательстве человечества и просит не верить боту

Что сказал Эдвард Сноуден

В OpenAI заявили, что "беспрецедентный опыт генерала Накасоне в таких сферах, как кибербезопасность, поможет компании достичь своей миссии, которая заключается в том, чтобы искусственный общий интеллект приносил пользу всему человечеству". Но не все в восторге от новой роли Накасоне в компании.

Смотрите также Искусственный интеллект достиг важного этапа: чат-бот на базе GPT-4 прошел тест Тьюринга

АНБ, которым он ранее руководил и, конечно же, имеет связи и до сих пор, уже давно ассоциируется со слежкой за гражданами США и иностранцами, а ИИ-технологии только усугубляют существующие проблемы слежки. Учитывая это, неудивительно, что бывший сотрудник АНБ и известный разоблачитель Эдвард Сноуден оказался одним из открытых противников этого назначения в OpenAI.

Они полностью сняли маску: никогда не доверяйте OpenAI или его продуктам,
– написал Сноуден в заметке в соцсети X, добавив, что может быть только одна причина для назначения директора АНБ в состав Совета директоров.

Он считает, что это "сознательное, рассчитанное предательство прав каждого человека на Земле".

Критика разрастается

Сноуден был не единственным выдающимся деятелем в сфере кибербезопасности, который отреагировал на новости OpenAI: "Я считаю, что самым большим применением ИИ будет массовое наблюдение за населением", – написал профессор криптографии Университета Джона Хопкинса Мэтью Грин, который считает, что привлечение бывшего главы АНБ к OpenAI имеет под собой определенную логику и цель.

Назначение Накасоне произошло после ряда громких увольнений из OpenAI:

• Из компании ушли сначала бывшие члены Совета директоров после неудачной попытки уволить генерального директора Сэма Альтмана, которого критиковали за пренебрежение безопасностью при разработке ChatGPT.
• После этого ушел главный разработчик Илья Суцкевер, который был вдохновителем увольнения Альтмана и едва ли не самым большим критиком его подходов к безопасности.
• Следующим ушел руководитель группы контроля безопасности Superalignment Ян Лейке.
• Вслед за ним распалось и все подразделение, которое должно было следить за соблюдением правил безопасности.
• Через неделю после этого OpenAI объявила о новом составе команды Superalignment, которая теперь переименована в "Комитет по безопасности и защите".
• Этот состав вызывает много вопросов, а главный из них о том, почему группу теперь возглавляет сам Сэм Альтман, ведь это создает конфликт интересов. Суть Superalignment в том, чтобы выступать определенными оппонентами руководству компании, регулируя процессы, которые могут привести к опасным результатам. Но теперь и руководство, и команду контроля возглавляет один человек, к тому же тот, который ранее обвиняли в пренебрежении вопросами безопасности. Таким образом Альтман должен отчитываться сам себе и давать советы по безопасности также самому себе.
• Пол Накасоне войдет в состав Комитета по безопасности и защите.

Подробнее об этом Новую команду безопасности OpenAI возглавляет человек, которого обвиняли в пренебрежении безопасностью

По данным издания Axios, многие во властных кабинетах рассматривают приход Накасоне в OpenAI как победу в сфере безопасности. А сам генерал со своей стороны заявил, что "преданность OpenAI своей миссии тесно связана с моими собственными ценностями и опытом работы на государственной службе".