Ексголовний науковець OpenAI пропонував збудувати бункер перед запуском загального ШІ

Михайло Года

Основні тези

Ілля Сутскевер, колишній головний науковець OpenAI, серйозно ставився до ризиків штучного загального інтелекту (AGI) і навіть обговорював можливість створення бункера.
Працівники OpenAI підтвердили, що в компанії існує група, яка вірить у потенційний значний вплив AGI на майбутнє, а деякі навіть використовували термін "раптура".

Ілюстративне фото / Колаж 24 Каналу

Колишній головний науковець OpenAI Ілля Сутскевер виявляв глибоку стурбованість перспективою появи штучного загального інтелекту (AGI) – поняття, що описує гіпотетичний момент, коли алгоритми перевершать людський інтелект. Його підхід до цієї теми виявився настільки серйозним, що він, за словами колег, навіть міркував про створення бункера.

Журналістка Карен Хао з The Atlantic, яка готує книгу про спробу звільнення CEO OpenAI Сема Альтмана восени 2023 року, поспілкувалася з людьми, які тісно працювали з Сутскевером, інформує 24 Канал.

Дивіться також Google створила інструмент для виявлення контенту, згенерованого ШІ

Один із дослідників пригадав розмову з літа 2023 року, коли Сутскевер заявив: "Коли ми всі опинимось у бункері… Після уточнення, що мався на увазі справжній бункер, він відповів: "Звичайно, ми точно збудуємо бункер перед запуском AGI. Але це буде необов’язково – хочеш, заходиш".

Цей епізод демонструє, наскільки серйозно в OpenAI сприймають потенційні наслідки розробки AGI. І хоча багато хто вважає, що ми ще далеко від цієї технології, а можливо, вона й взагалі недосяжна, окремі лідери компанії вже готуються до найгірших сценаріїв.

Інші працівники OpenAI підтвердили, що згадка про бункер була не випадковою. Один із них зазначив, що в компанії існує група людей, серед яких був і Сутскевер, які вірять, що створення AGI може стати "технологічним пришестям". Деякі навіть використовували термін "раптура" – біблійне поняття, пов’язане з кінцем світу.

Хто такий Ілля Сутскевер

Він був співзасновником і головним науковцем OpenAI з моменту створення компанії. Сутскевер відігравав ключову роль у розробці фундаментальних досліджень у сфері штучного інтелекту, зокрема в розвитку великих мовних моделей, що згодом стали основою для таких продуктів, як ChatGPT. Він також був одним із головних ідеологів і прихильників концепції штучного загального інтелекту (AGI) всередині компанії, впливаючи на її довгострокову стратегію та етичні підходи до розвитку технологій.

За словами Хао, нав’язлива ідея AGI почала впливати і на ставлення Сутскевера до внутрішньої політики OpenAI. До літа 2023 року він уже мав серйозні сумніви щодо того, як компанія поводиться зі своєю розробкою. Це призвело до того, що восени того ж року він разом з іншими членами ради директорів виступив ініціатором усунення Альтмана з посади.

Втім, згодом, коли стало зрозуміло, що більшість співробітників підтримують Альтмана, Сутскевер змінив свою думку. Він відкликав свій підпис під рішенням про звільнення, намагаючись виправити ситуацію. Проте ця спроба не принесла йому користі – згодом Сутскевер сам залишив компанію заради власного стартапу.

Як з’ясувала Хао, співробітники OpenAI між собою жартома називали спробу перевороту "The Blip" – "Спалахом".