Бывшие работники OpenAI умоляют запретить будущие разработки компании из-за угрозы человечеству
- Бывшие работники OpenAI, вместе с другими деятелями, призвали прокуроров заблокировать переход компании на полную коммерциализацию из-за потенциальных угроз человечеству.
- Изменение статуса OpenAI на коммерческую структуру может угрожать ее обязательству действовать в интересах человечества.
- Экс-сотрудники критикуют руководство компании, в частности Сэма Альтмана, за приоритетность прибыли над безопасностью, что может привести к опасным решениям и потере контроля над технологиями.
Бывшие сотрудники OpenAI обратились в суды с требованием заблокировать планы компании. Они говорят, что ее будущие разработки в сфере искусственного интеллекта могут стать смертельной угрозой для всего человечества.
Что происходит
Более десяти лет назад Сэм Альтман и Илон Маск создали OpenAI, обещая развивать искусственный интеллект в интересах человечества. Однако со стремительным ростом рынка амбиции руководства компании также изменились. Маск покинул OpenAI в 2018 году и сейчас возглавляет собственную ИИ-компанию xAI. Между тем OpenAI, которая стартовала как прозрачная некоммерческая организация, превращается в типичный стартап Кремниевой долины – с внутренними скандалами и критикой от бывших работников, сообщает 24 Канал со ссылкой на Futurism.
Смотрите также Обе новые модели искусственного интеллекта OpenAI галлюцинируют больше, чем их предшественники
На этой неделе группа экс-сотрудников OpenAI, вместе с профессорами права, активистами и лауреатами Нобелевской премии, направила письмо генеральным прокурорам Калифорнии и Делавэра. Они призывают заблокировать план компании по полному переходу на коммерческую модель. Стоит напомнить, что того же самого добивается и Илон Маск, подав соответствующие иски против OpenAI и Сэма Альтмана.
Бывший сотрудник компании Нисан Стиннон заявил, что OpenAI может создать технологию, которая будет способна уничтожить все человечество. Он подчеркнул, что сейчас компания формально контролируется некоммерческой организацией, которая имеет обязательства действовать в интересах человечества. Потеря этого контроля может открыть двери для опасных решений. Альтмана давно обвиняют в том, что он ставит прибыль на первое место, пренебрегая вопросами безопасности. Например, это ранее делал Илья Суцкевер, соучредитель компании и главный создатель технологии GPT, а также одна из бывших сотрудниц компании, Хелен Тонер, которая находилась в Совете директоров и выпустила целое исследование на тему того, как OpenAI нарушает меры безопасности.
Большинство ведущих компаний в сфере ИИ давно работают как обычные коммерческие структуры. Переход OpenAI, ведущей компании в отрасли, в этот лагерь, по мнению инсайдеров, поставит под угрозу принципы, которые вывели ее на первые позиции в мире технологий. Тодор Марков, еще один бывший работник OpenAI, который теперь работает в Anthropic, объясняет, что сейчас руководители компании имеют юридическое обязательство соблюдать устав, который требует, чтобы искусственный общий интеллект (AGI) приносил пользу всем людям. В случае перехода к коммерческой структуре это обязательство исчезнет, а потому защитить общественный интерес будет гораздо труднее.
Ранее Альтман уже потерял доверие внутри OpenAI. В 2023 году его временно отстранили после сокрытия запуска ChatGPT от совета директоров и самовольного одобрения новых улучшений модели. Хотя его быстро вернули на должность, репутационный удар остался. Общественность, судя по всему, не очень на это обращает внимание, но бывшие работники, которые работали с Альтманом лично, в основном выступают против него, что не может не настораживать.
Теперь вопрос о том, сможет ли OpenAI сохранить свой статус общественно полезной организации, решается на уровне генеральных прокуроров. В то же время многие исследователи считают, что создание настоящего AGI (универсального ИИ, действительно умнее человека) остается пока недостижимой целью. Если это так, угроза от коммерческого перехода OpenAI может быть существенно преувеличенной. Однако страхи вокруг будущего искусственного интеллекта продолжают расти.