Экс-главный ученый OpenAI предлагал построить бункер перед запуском всеобщего ИИ

Михаил Года

Основные тезисы

Илья Сутскевер, бывший главный ученый OpenAI, серьезно относился к рискам искусственного общего интеллекта (AGI) и даже обсуждал возможность создания бункера.
Работники OpenAI подтвердили, что в компании существует группа, которая верит в потенциальное значительное влияние AGI на будущее, а некоторые даже использовали термин "раптура".

Иллюстративное фото / Коллаж 24 Канала

Бывший главный ученый OpenAI Илья Сутскевер проявлял глубокую обеспокоенность перспективой появления искусственного общего интеллекта (AGI) – понятие, описывающее гипотетический момент, когда алгоритмы превзойдут человеческий интеллект. Его подход к этой теме оказался настолько серьезным, что он, по словам коллег, даже размышлял о создании бункера.

Журналистка Карен Хао из The Atlantic, которая готовит книгу о попытке увольнения CEO OpenAI Сэма Альтмана осенью 2023 года, пообщалась с людьми, которые тесно работали с Сутскевером, информирует 24 Канал.

Один из исследователей вспомнил разговор с лета 2023 года, когда Сутскевер заявил: "Когда мы все окажемся в бункере... После уточнения, что имелся в виду настоящий бункер, он ответил: "Конечно, мы точно построим бункер перед запуском AGI. Но это будет необязательно – хочешь, заходишь".

Этот эпизод демонстрирует, насколько серьезно в OpenAI воспринимают потенциальные последствия разработки AGI. И хотя многие считают, что мы еще далеко от этой технологии, а возможно, она и вообще недостижима, отдельные лидеры компании уже готовятся к худшим сценариям.

Другие работники OpenAI подтвердили, что упоминание о бункере было не случайным. Один из них отметил, что в компании существует группа людей, среди которых был и Сутскевер, которые верят, что создание AGI может стать "технологическим пришествием". Некоторые даже использовали термин "раптура" – библейское понятие, связанное с концом света.

Кто такой Илья Сутскевер

Он был соучредителем и главным ученым OpenAI с момента создания компании. Сутскевер играл ключевую роль в разработке фундаментальных исследований в сфере искусственного интеллекта, в частности в развитии больших языковых моделей, что впоследствии стали основой для таких продуктов, как ChatGPT. Он также был одним из главных идеологов и сторонников концепции искусственного общего интеллекта (AGI) внутри компании, влияя на ее долгосрочную стратегию и этические подходы к развитию технологий.

По словам Хао, навязчивая идея AGI начала влиять и на отношение Сутскевера к внутренней политике OpenAI. К лету 2023 года он уже имел серьезные сомнения относительно того, как компания ведет себя со своей разработкой. Это привело к тому, что осенью того же года он вместе с другими членами совета директоров выступил инициатором отстранения Альтмана с должности.

Впрочем, впоследствии, когда стало понятно, что большинство сотрудников поддерживают Альтмана, Сутскевер изменил свое мнение. Он отозвал свою подпись под решением об увольнении, пытаясь исправить ситуацию. Однако эта попытка не принесла ему пользы – впоследствии Сутскевер сам покинул компанию ради собственного стартапа.

Как выяснила Хао, сотрудники OpenAI между собой в шутку называли попытку переворота "The Blip" – "Вспышкой".