США ужесточают контроль над ИИ – новые модели будут проверять до запуска

Артур Заёнц

Основные тезисы

США усиливают контроль над системами искусственного интеллекта, вводя добровольную проверку моделей перед их запуском с участием компаний, таких как Microsoft, xAI и Google DeepMind.
Центр стандартов и инноваций в сфере искусственного интеллекта (CAISI) будет оценивать новые AI-модели для выявления потенциальных рисков, в частности в сфере кибербезопасности и злоупотребления технологиями.

Новые правила для искусственного интеллекта – Вашингтон берет под контроль передовые модели / Esa Automation

США активизируют контроль за развитием искусственного интеллекта. Новые договоренности с ведущими компаниями могут изменить правила запуска AI-систем.

Правительство США расширяет меры контроля за передовыми системами искусственного интеллекта, привлекая крупнейшие технологические компании к добровольной проверке их моделей перед публичным запуском. Речь идет о новых соглашениях между Министерством торговли США и такими игроками, как Microsoft, xAI и Google DeepMind. Об этом пишет Politico.

Зачем правительство США проверяет AI до запуска?

Инициатором проверок выступает Центр стандартов и инноваций в сфере искусственного интеллекта (CAISI), который работает в рамках Национального института стандартов и технологий. Именно эта структура будет проводить оценку новых AI-моделей до их внедрения, а также осуществлять специализированные исследования для выявления потенциальных рисков.

По словам директора CAISI Chris Fall, независимые и научно обоснованные методы оценки являются критически важными для понимания возможностей передовых AI-систем и их влияния на национальную безопасность. В центре внимания – риски, связанные с кибербезопасностью, утечками данных и потенциальным злоупотреблением технологиями.

Новые договоренности фактически продолжают практику, начатую еще в 2024 году, когда администрация Joe Biden заключила подобные соглашения с OpenAI и Anthropic. В то же время эти механизмы были пересмотрены в соответствии с новыми политическими приоритетами администрации Donald Trump.

Причиной усиления контроля стала растущая обеспокоенность правительства относительно возможных угроз от так называемых "frontier AI" – самых мощных и современных моделей. В частности, внимание привлекли риски в сфере кибербезопасности, которые обсуждаются после появления новых систем, таких как Mythos от Anthropic.

Как пишет NYTimes, в Белом доме также рассматривают возможность введения формализованного процесса государственной проверки AI-моделей через отдельный указ. Это может означать переход от добровольных договоренностей к более жесткому регулированию.

В CAISI отмечают, что новые соглашения предусматривают обмен информацией между государством и компаниями, а также будут способствовать совершенствованию продуктов еще до их выхода на рынок. Кроме этого, правительство стремится получить более четкое представление о глобальной конкуренции в сфере искусственного интеллекта.

Представители Microsoft подтвердили свое участие в программе и напомнили, что компания уже имеет подобное соглашение с британским институтом безопасности искусственного интеллекта. В Google DeepMind также подтвердили сотрудничество с американскими властями. В то же время xAI пока не предоставила официальных комментариев.

В целом инициатива свидетельствует об изменении подхода к развитию искусственного интеллекта: от быстрого внедрения инноваций – к более осторожному и контролируемому запуску. В будущем это может повлиять не только на технологические компании, но и на темпы развития AI-индустрии во всем мире.