Модель Mythos от Anthropic выявляет сотни уязвимостей в системе безопасности криптовалют и сервисов Microsoft
Искусственный интеллект Mythos от компании Anthropic устроил настоящий хаос в мире кибербезопасности. Модель обнаруживает критические уязвимости в программах быстрее, чем инженеры успевают их исправлять, а также успешно взломала перспективный алгоритм защиты от квантовых компьютеров.
Масштабная утечка ошибок в Microsoft
Инженеры Microsoft оказались в ситуации "безумной гонки" из-за результатов работы модели Claude Mythos Preview. Только за апрель этот инструмент обнаружил 90 критических и 141 серьезную уязвимость в системе SharePoint. Об этом пишет издание Ars Technica.
Уязвимости обнаружили также в Microsoft 365, Teams и сервисе Copilot. Ситуация настолько серьезна, что внутри корпорации заговорили о начале "баг-апокалипсиса". Проблема заключается в том, что традиционный подход к сортировке ошибок, когда разработчики исправляют только самые опасные уязвимости, больше не работает. Mythos научился "сшивать" несколько мелких и умеренных уязвимостей в единую цепочку, что позволяет хакерам осуществлять сокрушительные атаки, используя якобы несущественные баги.
Сегодня мы находимся в ситуации, когда безопасность является важнейшим приоритетом Microsoft, и команды по всей компании сосредоточены на использовании ИИ для выявления и устранения уязвимостей как можно быстрее,
– прокомментировал представитель Microsoft в ответ на запрос журналистов.
Конец алгоритма HAWK
Параллельно с аудитом программного обеспечения Mythos продемонстрировал впечатляющую мощь в сфере криптографии. Он сумел взломать алгоритм HAWK, который был одним из главных претендентов на роль американского стандарта защиты от будущих атак квантовых компьютеров. Исследователь из Anthropic, который даже не обладал глубокими знаниями в области криптографии, за 60 часов работы и 100 тысяч долларов затрат на вычисления смог вдвое снизить стойкость ключа HAWK, обнаружив ранее неизвестную математическую уязвимость.
По сути, после этой публикации HAWK мертв,
– заявила эксперт по постквантовой криптографии в Google Софи Шмиг.
После обнародования результатов разработчик HAWK официально отозвал свой алгоритм из тестирования. Кроме того, Mythos нашел способ ускорить атаки на широко распространенный в мире шифр AES в 200–800 раз с помощью усовершенствованного метода "моста Мебиуса". Это доказывает, что ИИ способен самостоятельно комбинировать имеющиеся математические инструменты способами, о которых ранее не догадывались ведущие ученые.
Сейчас отрасль пытается осознать новые реалии. Окно возможностей, когда западные компании имеют эксклюзивный доступ к таким инструментам, быстро закрывается. Специалисты ожидают, что уже через несколько месяцев хакеры и враждебные правительства создадут аналогичные модели.
Microsoft уже вынуждена устанавливать рекорды: в июле компания выпустила патчи для более чем 600 ошибок одновременно, однако устаревший код продолжает демонстрировать новые проблемы под давлением искусственного интеллекта.