Риски ИИ так высоки, что мы должны знать, почему OpenAI уволила Сэма Альтмана, – Илон Маск
Источник:
Илон МаскИлон Маск заявил, что потенциальная опасность искусственного интеллекта настолько велика, что OpenAI, которая сегодня является самой мощной компанией отрасли в мире, должна раскрыть причину увольнения своего генерального директора Сэма Альтмана. Вероятно, причиной таких слов является предположение, что OpenAI создала или собирается создать сверхразумный ИИ.
Маск волнуется
OpenAI объявила об увольнении Альтмана 17 ноября. В компании заявили, что "он не всегда был откровенен в общении с советом директоров, что ограничивает его способность выполнять свои обязанности". Маск, отвечая на сообщения предпринимателя и инвестора Дэвида Сакса, написал, что "учитывая риск и мощность продвинутого ИИ, общественность должна быть проинформирована о том, почему правление решило принять такие радикальные меры".
Смотрите также Переворот в OpenAI: кто на самом деле стоит за шокирующей отставкой Сэма Альтмана
Маск – бывший член совета директоров OpenAI и один из ее учредителей. Он покинул компанию в 2018 году, сославшись на конфликт интересов с Tesla. Однако позже бизнесмен рассказывал журналистам, что его беспокоит возможное влияние компании на общество.
Стоит напомнить, что Маск был одним из тех, кто недавно критиковал ИИ, выступая за серьезные ограничения и жесткий контроль над его разработкой, чтобы не допустить выхода из-под контроля. Поэтому нынешние комментарии согласуются с его позицией относительно потенциальной опасности технологии. Интересно также, что уже через несколько месяцев после своих заявлений Илон объявил, что создаст собственный искусственный интеллект. Так и случилось: в начале ноября мир увидел Grok. Собственная ИИ-компания Маска, вероятнее всего, только выиграет от нынешней ситуации в OpenAI.
По одной из версий нынешних событий вокруг увольнения Альтмана, возможная причина отстранения могла заключаться в растущем напряжении среди руководства компании по поводу опасностей, которые ИИ представляет для человечества. Альтман настойчиво искал финансирование для расширения разработки технологии и постоянно говорил о все более умном алгоритме, тогда как несколько других членов совета директоров призвали компанию обратить дополнительное внимание на смягчение потенциальных угроз.
Соучредитель и один из членов Совета директоров OpenAI Илья Суцкевер, которого СМИ назвали главным виновником изгнания Альтмана, предпочел действовать более осторожно и учитывать потенциальную возможность ИИ нанести вред обществу. По данным The New York Times, еще до увольнения Альтмана Суцкевер создал внутри компании команду Super Alignment. Это было сделано с целью гарантировать, что будущие версии GPT-4 не будут вредны человечеству. Илон Маск ранее заявлял, что решил финансировать OpenAI и лично переманил Суцкевера из Google, поскольку беспокоился, что поисковый гигант разрабатывает ИИ, не заботясь о безопасности.