Ризики ШІ такі високі, що ми повинні знати, чому OpenAI звільнила Сема Альтмана, – Ілон Маск
Джерело:
Ілон МаскІлон Маск заявив, що потенційна небезпека штучного інтелекту настільки велика, що OpenAI, яка сьогодні є найпотужнішою компанією галузі в світі, має розкрити причину звільнення свого генерального директора Сема Альтмана. Імовірно, причиною таких слів є припущення, що OpenAI створила або збирається створити надрозумний ШІ.
Маск хвилюється
OpenAI оголосила про звільнення Альтмана 17 листопада. У компанії заявили, що "він не завжди був відвертим у спілкуванні з радою директорів, що обмежує його здатність виконувати свої обов'язки". Маск, відповідаючи на повідомлення підприємця та інвестора Девіда Сакса, написав, що "з огляду на ризик і потужність просунутого ШІ, громадськість повинна бути поінформована про те, чому правління вирішило вжити таких радикальних заходів".
Дивіться також Переворот в OpenAI: хто насправді стоїть за шокуючою відставкою Сема Альтмана
Маск – колишній член ради директорів OpenAI та один із її засновників. Він залишив компанію у 2018 році, пославшись на конфлікт інтересів із Tesla. Однак пізніше бізнесмен розповідав журналістам, що його турбує можливий вплив компанії на суспільство.
Варто нагадати, що Маск був одним із тих, хто не так давно критикував ШІ, виступаючи за серйозні обмеження та жорсткий контроль над його розробкою, щоб не допустити виходу з-під контролю. Тож нинішні коментарі цілком узгоджуються з його позицією щодо потенційної небезпеки технології. Цікаво також, що вже через кілька місяців після своїх заяв Ілон оголосив, що створить власний штучний інтелект. Так і сталося: на початку листопада у світ вийшов Grok. Власна ШІ-компанія Маска, найімовірніше, тільки виграє від нинішньої ситуації в OpenAI.
За однією з версій нинішніх подій довкола звільнення Альтмана, можлива причина відсторонення могла полягати у зростаючій напрузі серед керівництва компанії з приводу небезпек, які ШІ становить для людства. Альтман наполегливо шукав фінансування для розширення розробки технології та постійно говорив про все більш розумний алгоритм, тоді як кілька інших членів ради директорів закликали компанію звернути додаткову увагу на пом'якшення потенційних загроз.
Співзасновник та один із членів Ради директорів OpenAI Ілля Суцкевер, якого ЗМІ назвали головним винуватцем вигнання Альтмана, вважав за краще діяти обережніше і враховувати потенційну можливість ШІ завдати шкоди суспільству. За даними The New York Times, ще до звільнення Альтмана Суцкевер створив усередині компанії команду Super Alignment. Це було зроблено з метою гарантувати, що майбутні версії GPT-4 не будуть шкідливими для людства. Ілон Маск раніше заявляв, що вирішив фінансувати OpenAI і особисто переманив Суцкевера з Google, оскільки непокоївся, що пошуковий гігант розробляє ШІ, не піклуючись про безпеку.