Даже главный научный сотрудник OpenAI призывает притормозить развитие ИИ

Главный научный сотрудник OpenAI Якуб Пачоцкий заявил, что стремительное развитие искусственного интеллекта создает риски, к которым общество может оказаться не готовым. По его мнению, компаниям следует не только работать над безопасностью технологий, но и рассмотреть возможность замедления дальнейших исследований. Об этом пишет Techradar.

Почему в OpenAI заговорили о замедлении развития ИИ?

В статье на сайте OpenAI Пачоцкий предупредил, что современные системы искусственного интеллекта "создают очевидные новые угрозы" для компьютерной безопасности. В то же время, по его словам, никто не готов к последствиям дальнейшего стремительного роста машинного интеллекта.

Его заявление прозвучало вскоре после запуска GPT-6 Astra – бизнес-ориентированной модели OpenAI. Именно поэтому призыв одного из высших руководителей компании к более сдержанному развитию ИИ выглядит особенно показательно.

Пачоцкий связывает проблему не только с конкретными моделями, но и с тем, насколько мало человечество на самом деле понимает процесс развития современного искусственного интеллекта. Он отмечает, что мир оказался в историческом моменте, когда машинный интеллект начинает превосходить человеческие возможности в важных и трансформационных сферах. При этом исследования ИИ на основе глубокого обучения в значительной степени остаются экспериментальной наукой.

Что именно беспокоит OpenAI?

Одной из ключевых проблем является то, что развитие ИИ на протяжении многих лет строилось вокруг увеличения вычислительных мощностей.

Именно масштабирование вычислений помогло ускорить развитие систем искусственного интеллекта. Параллельно появлялись новые алгоритмы и методы обучения, которые делали модели более эффективными. Однако общая тенденция оставалась неизменной – индустрия продолжала увеличивать мощность систем. Этот подход позволил достичь результатов, которые еще несколько лет назад казались маловероятными. Но вместе с возможностями растут и риски.

"Я обеспокоен тем, что никто не готов к последствиям дальнейшего стремительного роста машинного интеллекта", – написал Пачоцкий.

Речь идет не только о расходе электроэнергии, охлаждении дата-центров или протестах против строительства новой инфраструктуры. Гораздо более серьезный вопрос заключается в том, смогут ли люди сохранить достаточный уровень контроля над все более мощными системами.

Особое внимание Пачоцкий уделяет перспективе создания систем, способных самостоятельно помогать в проведении исследований и даже совершенствовать последующие поколения ИИ. OpenAI уже работает над автоматизированным исследовательским помощником, а сама компания экспериментирует с концепцией рекурсивного самосовершенствования. Речь идет о ситуации, когда искусственный интеллект помогает создавать или улучшать свои последующие версии.

Предлагает ли OpenAI полностью остановить развитие ИИ?

Пачоцкий не призывает полностью прекратить исследования в области искусственного интеллекта. Его позиция заключается в том, что человечество должно действовать осторожнее и параллельно с развитием технологий создавать механизмы контроля.

Он называет два основных пути. Первый – продолжать развитие ИИ, но одновременно усиливать механизмы согласования поведения моделей с человеческими целями, системы мониторинга и способы вовлечения людей в процесс принятия важных решений. Второй – при необходимости координировать замедление будущего развития технологий, чтобы обрести большую уверенность в эффективности механизмов безопасности.

По мнению Пачоцкого, лучшим вариантом может стать сочетание обоих подходов. Отдельно он подчеркивает необходимость международной координации. Поскольку разработкой передовых моделей занимаются компании из разных стран, решения только одной организации будет недостаточно. По его мнению, правительствам придется координировать подходы к дальнейшему развитию технологии.

Проблема заключается в том, что замедление одной компании не обязательно будет означать замедление всей отрасли. Если конкуренты продолжат увеличивать мощность моделей, у разработчиков появится сильный стимул не отставать.

Поэтому призыв главного исследователя OpenAI фактически касается не только его компании. Он поднимает гораздо более широкий вопрос: готова ли вся индустрия искусственного интеллекта временно снизить темпы развития, чтобы лучше понять возможности и риски технологии. Пока что очевидных признаков такого коллективного решения нет. Наоборот, конкуренция между крупнейшими разработчиками ИИ продолжает стимулировать создание все более мощных моделей.