Скоро он убьет нас: разработчики ИИ втайне боятся собственных разработок, но продолжают работать

Почему исследователь из Anthropic решил уйти из компании

Как сообщает издание Gizmodo, 27-летний специалист Джейкоб Коксон работал над предварительным обучением новых ИИ-моделей, загружая в них огромные объемы данных. Во вторник вечером он объявил о своем увольнении, а впоследствии опубликовал серию постов в социальной сети X с разоблачениями бывших коллег.

Коксон заявил, что больше не желает участвовать в корпоративных соревнованиях, где компании пытаются как можно быстрее создать технологии, которые люди больше не смогут контролировать. По его мнению, неконтролируемая гонка технологических компаний является самой опасной деятельностью современности.

Никакая другая человеческая деятельность не несет такого уровня опасности– говорит Джейкоб Коксон, теперь уже бывший исследователь Anthropic.

Он добавил, что сейчас мир не в состоянии остановить глобальную гонку. Для предотвращения катастрофы может потребоваться даже временный запрет на улучшение возможностей моделей ИИ.

Что о рисках искусственного интеллекта говорят руководители технологических гигантов

Интересно, что позиция руководства Anthropic не слишком отличается от опасений уволенного сотрудника. Соучредитель и генеральный директор компании Дарио Амодеи ранее также делился тревожными мыслями в своем блоге, поэтому получил репутацию пессимиста в отношении будущего технологий.

По словам Амодеи, системы искусственного интеллекта демонстрируют непредсказуемое поведение. Ученые замечали у них обман, шантаж, лень, предвзятость и даже попытки взломать программную среду для достижения цели. Процесс создания таких систем скорее напоминает выращивание живого организма, чем классическое программирование, поэтому на этом пути многое может пойти не так.

По словам Коксона, подобная риторика со стороны топ-менеджеров – не просто маркетинговый ход для привлечения внимания или создания хайпа. Они говорят об этом даже в частной переписке и внутри своих компаний.

Люди, которые создают ИИ, искренне верят, что он может убить нас всех до конца десятилетия– говорит Джейкоб Коксон.

Он подчеркнул, что в публичном пространстве руководители стараются подбирать осторожные формулировки, чтобы выглядеть рассудительными, однако в частных беседах они выражают настоящий ужас по поводу будущих рисков искусственного интеллекта. Однако все это, как видим, не останавливает их. Ведь если этого не сделают они, то это сделает кто-то другой.