Один из основателей OpenAI открыл стартап, который создает безопасный суперинтеллект
Источник:
The VergeИлья Суцкевер, соучредитель и бывший главный научный консультант OpenAI, объявил о запуске своего нового стартапа в области искусственного интеллекта Safe Superintelligence (SSI). Задачей стартапа является достижение баланса между созданием мощных систем искусственного интеллекта и обеспечением их безопасности для человечества.
Презентуя стартап Суцкевер подчеркнул на двойной направленности SSI: развитие возможностей искусственного интеллекта при одновременном соблюдении строгих протоколов безопасности.
Смотрите также Эдвард Сноуден обвинил разработчиков ChatGPT в предательстве человечества и просит не верить чат-боту
Такой подход отличает SSI от таких технологических гигантов, как Google, Microsoft и даже OpenAI, которые часто сталкиваются с коммерческим давлением, что заставляет их быстро выпускать новые продукты.
Видение Суцкевера в отношении SSI предполагает методичное масштабирование технологии, свободное от поспешного выхода на рынок, гарантируя, что безопасность остается первоочередной задачей на протяжении всего процесса разработки.
В этом амбициозном деле к Суцкеверу присоединились Дэниел Гросс (Daniel Gross), бывший руководитель отдела искусственного интеллекта в Apple, и Дэниел Леви (Daniel Levy), технический эксперт из команды OpenAI. Их коллективный опыт должен помочь реализовать цель SSI.
Все началось с расхождения взглядов
- Стоит заметить, что созданию SSI предшествовал период внутреннего конфликта в OpenAI, когда Суцкевер выступал за увольнение генерального директора Сэма Альтмана из-за разногласий относительно этических приоритетов.
- Уход Суцкевера в мае и последующие намеки на новый проект привели к созданию SSI.
- Несколько ведущих сотрудников OpenAI также покинули компанию, разделяя беспокойство Суцкевера относительно этики и ответственности в разработке ИИ.
Новый важный игрок на рынке ИИ?
Стратегия SSI четкая: основное внимание будет сосредоточено на разработке безопасного суперинтеллекта. Стартап не планирует создавать партнерства или дополнительные продукты, пока не достигнет этой цели.
Такое единоличное обязательство позиционирует SSI как прямого конкурента признанным лидерам отрасли,, отдающего приоритет этичным и безопасным технологиям искусственного интеллекта над коммерческой выгодой.
Читайте на сайте Существует высокая вероятность того, что искусственный интеллект OpenAI уничтожит или нанесет вред человечеству
Эксперты отрасли предполагают, что если SSI достигнет успеха, это может произвести революцию в практике разработки ИИ во всем мире, установив новые стандарты безопасности и ответственности.