Підступний маніпулятор: ось, чому правління OpenAI звільнило Сема Альтмана

Зазначається, що автор матеріалу The New Yorker, письменник Чарльз Духігг, навмисно влаштувався на роботу в OpenAI й працював над статтею "протягом декількох місяців", досліджуючи всю цю ситуацію ще задовго до звільнення Альтмана. Він пише, що деякі члени правління вважали засновника й керівника компанії "маніпулятивнім і підступним", маючи особливе занепокоєння з приводу його спроб маніпулювати незалежною Радою директорів, щоб спонукати до звільнення однієї з її членів, Хелен Тонер, з якою в Альтмана виник конфлікт.

Дивіться також Один рік ChatGPT: як найпопулярніший штучний інтелект змінив цілий світ

Деталі розслідування

Ми вже писали про драму, яка розгорнулася між Альтманом і Тонер, яка обіймає посаду директорки з питань стратегії та грантів на фундаментальні дослідження в Центрі безпеки й нових технологій Джорджтаунського університету. Вона написала статтю, в якій критикувала ставлення OpenAI до питань безпеки, натомість вихваляючи методи конкурента, компанії Anthropic. Інші видання згадували, що Альтман порушував питання про те, чи не було б доречно вивести Хелен Тонер зі складу Ради директорів, оскільки вона поставила під загрозу репутацію OpenAI, але ми й уявити не могли, до яких методів він удався, щоб цього досягти.

Як пише Чарльз Духігг, Альтман почав звертатися до окремих членів правління, наполягаючи на звільненні Тонер. У цих переговорах він "спотворював" думку інших членів правління, "нацьковуючи їх одне на одного, й брешучи про те, що думають інші люди". У таких приватних переговорах, він стверджував, що інші члени Ради вже погодилися з його думкою, щоб підштовхнути співрозмовника слідувати прикладу, хоча насправді жодної згоди ні від кого не отримав. "Подібні речі відбувалися роками", – сказав Духіггу його співрозмовник з OpenAI.

Відносини між Альтманом і правлінням OpenAI стали неспокійними. Деякі з шести членів Ради вважали Альтмана маніпулятором і підлабузником — якості, характерні для генеральних директорів технологічних компаній, але обурливі для членів Ради, які мали досвід роботи в академічних установах або в некомерційних організаціях. Вони вважали, що Сем збрехав,
– йдеться в статті The New Yorker.

Це узгоджується із заявою головного операційного директора OpenAI Бреда Лайткепа незабаром після звільнення Альтмана. Він тоді заявив, що це рішення було прийнято "не у відповідь на зловживання або щось, пов'язане з нашими фінансовими, діловими, безпековими практиками або практиками безпеки/приватності. Це був розрив комунікації між Семом і радою директорів". Це також може пояснити, чому правління не бажало публічно вдаватися в подробиці ситуації.

Цікаво, що сам Альтман нібито визнає, що був "недолугим у тому, як він намагався усунути члена Ради", але заявляє, що аж ніяк не намагався маніпулювати Радою.

Усе це накладалося на триваючий процес пошуку AGI, надрозумного універсального штучного інтелекту, який перевершить людину. Автор згадує, що в компанії точилися постійні дебати між Альтманом і Радою, і що з кожним разом вони "отримували десять балів божевілля".

Важко сказати, чи члени Ради директорів були більше налякані розумними комп'ютерами, чи тим, що Альтман вийде з-під контролю,
– пише Духігг.

Повна версія статті The New Yorker, прочитання якої займає близько години, розкриває більше про історію співпраці Microsoft з OpenAI та розробку ChatGPT, а також про її власні системи Copilot. Стаття також пропонує погляд на тристоронню реакцію Microsoft на драму з Семом Альтманом.