Лауреат Нобелевской премии говорит, что "гордится" решением уволить Сэма Альтмана из OpenAI

Немного предыстории

В ноябре 2023 года коллективным решением Совета директоров был уволен директор Сэм Альтман. Хотя за это время появилось немало комментариев, утечек и свидетельств от разных лиц и изданий, официальных объяснений мы так и не получили.

Альтман смог вернуться на должность очень быстро, а все, кто организовал или поддержал этот "мятеж" потеряли свои места в Совете или вообще в компании. Илья Суцкевер, которого назвали главным инициатором, сначала остался работать в OpenAI, но ушел сам в мае 2024 года. Технический директор Мира Мурати уволилась в сентябре 2024-го вместе с двумя другими директорами подразделений. Ушли также Питер Денг, Джон Шульман и Хелен Тонер. Грег Брокман взял длительный отпуск до конца года.

В результате Альтман только выиграл от этой ситуации, получив еще больше власти. Он возглавил новый отдел безопасности после увольнения Яна Лейке, еще одного директора, сформировал новый Совет директоров, а теперь ходят слухи, что он хочет превратить организацию из сугубо исследовательской в коммерческую, в которой получит огромную долю в 150 миллиардов долларов акционерного капитала.

Смотрите также IT-компании Украины сформулируют правила этического использования ИИ: кто подписал декларацию

Почему Хинтон радовался увольнению Альтмана

На этой неделе Джеффри Хинтон получил Нобелевскую премию за фундаментальную работу над нейронными сетями, которая принесла ему прозвище "крестный отец ИИ". В своей речи во вторник профессор Хинтон похвалил своего студента, намекая на бывшего главного научного сотрудника OpenAI Илью Суцкевера. Он сказал, что тот хорошо сделал, когда восстал против генерального директора OpenAI.

Мне особенно повезло, что у меня было много очень умных студентов, намного умнее меня. Они действительно заставили все работать. Они пошли дальше, чтобы делать великие дела. Я особенно горжусь тем, что один из моих студентов уволил Сэма Альтмана,
– сказал Хинтон.

Конечно, Хинтон имеет в виду голосование совета директоров OpenAI за увольнение Альтмана в ноябре 2023 года. Суцкевер сообщил Альтману эту новость по видеосвязи, но позже сказал в своем твиттере, что сожалеет об этом. Хинтон, похоже, отпраздновал увольнение генерального директора OpenAI как победу в борьбе за безопасность ИИ, за которую он часто выступает. Однако победа оказалась непродолжительной.

Для дополнительного контекста следует отметить, что подход Сэма Альтмана к управлению компанией не критиковал разве что ленивый. Дело в том, что он, судя по всему, поставил заработки выше вопросов безопасности искусственного интеллекта. Там где Илья Суцкевер и его коллеги пытались продвигаться постепенно, чтобы удостовериться в безопасности продуктов для человечества, Альтман наоборот гнался вперед, стремясь первым достичь так называемого AGI, универсального ИИ, который сможет в рамках одной модели выполнять различные задачи и делать это лучше, чем человек, что, собственно, является текущей целью большинства разработчиков искусственного интеллекта. Мы не знаем всех деталей этого, ведь информация поступала в очень ограниченном виде и от разных людей. Пренебрежение безопасностью Альтмана упрекал Илон Маск, один из соучредителей OpenAI, Даниэла и Дарио Амодеи, которые ранее работали в компании, а затем ушли, чтобы основать конкурентный стартап Anthropic, а также многочисленные бывшие работники, среди которых сам Суцкевер и Хелен Тонер, и даже сторонние ученые.

Поэтому Хинтон, как человек, фактически создавший ИИ как технологию, понимает, что не так с методами руководства Сэма Альтмана и, судя по всему, является одним из тех, кто готов эти методы критиковать. К сожалению, он не прибегнул к какой-либо конкретике, поэтому неизвестно, какую конкретно позицию он занимает в этом вопросе. Но точно можно сказать одно: Сэм Альтман свернул куда-то не туда.