Не годы, а месяцы – разведка союзников США предупредила об опасном скачке ИИ

Разведывательные и кибербезопасностные агентства стран альянса "Five Eyes", в который входят Австралия, США, Великобритания, Новая Зеландия и Канада, обнародовали редкое совместное заявление о рисках, связанных с развитием искусственного интеллекта. Об этом пишет The Guardian.

Смотрите также : Исследование показывает, что люди теперь боятся звучать как искусственный интеллект

Почему спецслужбы заговорили об угрозе именно сейчас?

В документе отмечается, что самые мощные современные модели ИИ могут уже в ближайшие месяцы радикально изменить возможности как защитников, так и злоумышленников в киберпространстве.

Авторы заявления подчеркнули, что искусственный интеллект поможет улучшить киберзащиту, но в то же время значительно ускорит развитие новых киберугроз.

"Передовые модели искусственного интеллекта, как ожидается, превзойдут нынешние прогнозы отрасли, коренным образом изменив как наступательные, так и оборонительные кибервозможности. Речь идет не о годах. Речь идет о месяцах", — говорится в совместном заявлении агентств.

Также в документе отмечается, что киберустойчивость становится критически важным фактором для непрерывности бизнеса, доверия рынков и долгосрочной экономической стабильности.

Что вызвало беспокойство правительств?

Предупреждение появилось вскоре после решения администрации президента США Дональда Трампа ограничить доступ иностранных граждан к новой модели искусственного интеллекта компании Anthropic под названием Fable.

Американские власти сослались на рекомендации органов национальной безопасности. Ограничения коснулись не только Fable, но и другой разработки компании — модели Mythos.

Обе системы считаются одними из самых передовых инструментов в сфере кибербезопасности. Особое внимание привлек Mythos, представленный ранее в этом году. Он способен автоматически выявлять уязвимости в компьютерных системах и сетях, поэтому доступ к нему предоставляется только проверенным организациям из-за риска злоупотреблений.

В свою очередь, Fable позиционируется как более доступная и ориентированная на более широкое сообщество версия этой технологии.

Почему ИИ может изменить правила игры для хакеров?

По мнению агентств "Пяти глаз", современные модели искусственного интеллекта существенно снижают порог входа для киберпреступников.

Задачи, которые ранее требовали высокой квалификации и значительных затрат времени, могут быть автоматизированы или выполняться значительно быстрее. Речь идет о поиске уязвимостей, создании вредоносного программного обеспечения, проведении сложных фишинговых кампаний и анализе больших массивов данных.

В заявлении подчеркивается, что проблема больше не является исключительно технической.

"Киберриски больше нельзя рассматривать как чисто техническую проблему. Это фундаментальный бизнес-риск и ответственность руководства".

Именно поэтому спецслужбы призывают компании, государственные структуры и общество в целом готовиться к новой реальности уже сейчас.

Эксперт по вопросам национальной безопасности и искусственного интеллекта Центра исследований США при Сиднейском университете Оливия Шен считает, что Anthropic — лишь один из многих разработчиков, за которыми сейчас внимательно следят правительства.

По её словам, внимание общества приковано к Fable и Mythos, однако аналогичные или даже более мощные системы могут находиться на заключительных стадиях разработки в других странах.

"Мы должны исходить из того, что следующий Mythos или следующий Fable уже не за горами", — отметила Шен.

Она добавила, что общественность видит лишь те модели, которые компании решили выпустить на рынок. В то же время в Китае, других странах или частных компаниях могут создаваться системы с сопоставимыми возможностями.

Регулирование отстает от развития технологий

Предупреждение "Five Eyes" прозвучало на фоне дискуссий о том, как именно следует регулировать развитие искусственного интеллекта.

Например, в марте правительство Австралии включило Anthropic в свою национальную программу развития ИИ. Компания стала первым участником соответствующего меморандума о взаимопонимании.

В рамках этой инициативы разработчики добровольно обмениваются с правительством информацией о прогрессе в создании искусственного интеллекта и способствуют повышению безопасности технологий.

В то же время австралийская стратегия предусматривает относительно мягкий подход к регулированию отрасли, чтобы не сдерживать экономический рост и инновации.

Однако заявление "Five Eyes" демонстрирует, что среди спецслужб всё чаще звучат опасения: развитие искусственного интеллекта может опередить способность государств и бизнеса адаптироваться к новым угрозам. Если прогнозы агентств оправдаются, ближайшие месяцы могут стать переломным моментом для всей сферы кибербезопасности.