Искусственный интеллект меняет правила кибервойны – у кого теперь преимущество

Долгое время масштаб сложных киберопераций напрямую зависел от количества опытных специалистов. Чтобы провести атаку на большую организацию или государственную систему, требовались люди, способные находить уязвимости, анализировать инфраструктуру, строить цепочки атак и менять тактику после неудачи. Об этом пишет Techradar.

Почему ИИ меняет экономику кибератак?

Теперь часть этой работы начинают выполнять системы искусственного интеллекта. По словам Кфира Флейшера, вице-президента по продукту и киберисследованиям DreamGroup, именно это постепенно разрушает прежнюю связь между количеством экспертов и масштабом операции.

ИИ не устраняет талант – он меняет то, что этот талант может масштабировать.

Флейшер, который на протяжении 15 лет работал как в наступательной, так и в оборонительной кибербезопасности, считает, что ключевое изменение заключается не просто в использовании ИИ для автоматизации отдельных задач. Речь идет о возможности многократно масштабировать экспертные решения.

Если раньше увеличение количества сложных атак требовало привлечения новых специалистов, то теперь одна команда может использовать ИИ-агентов для одновременного проведения большого количества расследований и поиска путей проникновения.

Эксперимент, демонстрирующий новую реальность

В июле команда исследователей DreamGroup обнаружила рабочую среду автономной мультиагентной системы, которая проводила кампании по проникновению в государственные структуры в Азии.

Примерно за четыре дня система провела 12 волн атак, одновременно задействовав до восьми ИИ-агентов. В результате были скомпрометированы 85 учетных записей государственных служащих. 84 из них система использовала для дальнейшего перемещения через государственную среду единого входа.

Система была построена на общедоступных фреймворках Hermes и OpenClaw. Особенно важным исследователи считают не сам факт автоматизации, а способ, которым система принимала решения.

Каждое обнаружение оценивалось с помощью байесовского показателя уверенности. На его основе система определяла, какой из потенциальных путей стоит проверить дальше.

Если какое-то направление не срабатывало, система переходила к так называемому циклу обучения. Она искала соответствующие базы данных уязвимостей и исследования по кибербезопасности, ориентируясь на технологии конкретной государственной структуры, после чего повторяла попытку. Таким образом формировался замкнутый цикл: исследование, проверка, действие, анализ результата, обновление оперативных знаний и новая попытка.

В то же время Флейшер подчеркивает, что эта система не была моделью, самостоятельно совершенствующей себя. Точнее ее называть самоадаптивным киберзлоумышленником, в котором ИИ выполняет роль системы, реализующей экспертные решения человека. При этом технические основы операции не были особенно новыми или революционными. Наибольшее беспокойство вызывает другое – масштаб, которого можно достичь с помощью автоматизации.

Почему государственные сети особенно уязвимы?

ИТ-инфраструктура современного государства формировалась десятилетиями. Она включает министерства, муниципалитеты, устаревшие программы, облачные сервисы, операционные технологии, подрядчиков, поставщиков и огромное количество связей между различными системами.

Большинство таких соединений создавались по вполне легитимным операционным причинам. Однако каждая связь одновременно может стать потенциальной точкой для атаки. Современный взлом большой государственной системы не обязательно начинается с поиска одной критической уязвимости. Гораздо опаснее может быть последовательное сочетание множества обычных слабых мест.

Раньше это создавало проблему и для злоумышленников. Даже очень опытные команды физически не могли постоянно анализировать каждый актив, учетную запись, настройку, уязвимость и доверенное соединение в масштабах целого государства.

ИИ-злоумышленнику не нужно сразу знать всю архитектуру государственной сети. Он может исследовать ее постепенно: обнаружить связь, сформировать гипотезу, проверить ее, проанализировать результат и перейти к следующему варианту. Это создает новую ситуацию, при которой противник потенциально может анализировать инфраструктуру на национальном уровне быстрее, чем учреждения, отвечающие за ее защиту.

Атаки становятся дешевле и быстрее

Одним из важнейших изменений Флейшер называет резкое снижение стоимости использования киберэкспертизы в наступательных операциях.

Раньше поиск уязвимостей, определение их значимости и построение на их основе реального пути атаки требовали значительных затрат человеческого времени и опыта. Теперь эти процессы можно повторять со скоростью машины. Это означает, что наступательные возможности становятся дешевле, быстрее и проще для воспроизведения.

Причем с ростом возможностей ИИ эта тенденция, вероятно, усиливается. С чем больше интеллектуальных операций можно делегировать агентам, тем меньше масштаб кибероперации зависит от количества людей, непосредственно выполняющих каждую задачу. Но из этого не следует, что ИИ автоматически дает преимущество злоумышленникам.

В чем защитники по-прежнему имеют преимущество?

У киберзащиты есть принципиальное преимущество, которого нет у большинства атакующих – собственная организация уже знает свою инфраструктуру.

Защитники имеют доступ к телеметрии, конфигурациям, информации об учетных записях, внутренним связям между системами и другим данным, которые атакующему сначала нужно получить.

То есть атакующий должен самостоятельно составить карту чужой среды. У защитника такая карта уже есть. Проблема заключается в другом. Человек не способен непрерывно анализировать все эти данные одновременно. Ни одна команда не может постоянно отслеживать каждый актив, каждую идентичность, конфигурацию, уязвимость и связь.

Именно здесь ИИ может работать на пользу защиты. Вместо того чтобы использовать искусственный интеллект лишь для анализа отдельных сигналов, защитники могут масштабировать работу экспертов до тысяч параллельных проверок. Система может постоянно искать потенциальные пути атаки, определять наиболее опасные из них и помогать направлять ресурсы туда, где риск наибольший.

Таким образом, обе стороны получают примерно одинаковый механизм масштабирования. Но стартовые позиции у них разные. Атакующий получает возможность быстрее исследовать чужую систему. Защитник получает возможность значительно эффективнее использовать уже имеющиеся знания о собственной системе.

Почему скорость реакции может быть важнее самого обнаружения?

Одного обнаружения угрозы недостаточно. Представим, что система безопасности за несколько секунд определила скомпрометированную учетную запись. Если при этом учетные данные остаются активными еще шесть часов, злоумышленник фактически получает шесть часов для продолжения операции.

Аналогичная ситуация с уязвимостью критически важной системы. Если ИИ мгновенно определил возможный путь к ней, но устранение проблемы занимает три недели, все это время путь остается потенциально доступным для злоумышленника.

Поэтому главным показателем становится не только качество анализа, но и время до эффективного действия – период между выявлением риска и реальным изменением ситуации.

Причем действие должно давать проверенный результат. Отключить учетную запись, изменить правило брандмауэра или установить обновление недостаточно. Система должна убедиться, что после этого злоумышленник действительно больше не может достичь своей цели.

Именно поэтому оборонительный цикл, по мнению автора, не должен заканчиваться аналитикой или даже выполнением определенного действия. Он должен завершаться подтвержденным результатом безопасности.

Главная борьба будет вестись за расширение экспертизы

Появление автономных ИИ-систем не означает, что люди больше не нужны в кибербезопасности. Наоборот, качество решений по-прежнему в значительной степени зависит от уровня экспертных знаний, заложенных в систему.

Меняется другое – количество случаев, когда эти знания можно применить одновременно. Для злоумышленников это означает возможность проводить больше разведки, проверять больше гипотез и быстрее адаптироваться к неудачам.

Для защитников – возможность постоянно анализировать значительно больший объем собственной инфраструктуры, находить потенциальные пути атаки и быстрее реагировать на них. Поэтому главный вопрос будущей кибербезопасности заключается не просто в том, у кого больше экспертов или у кого более мощная модель искусственного интеллекта.

Решающим может стать то, насколько эффективно организация способна масштабировать экспертные знания и превращать их в конкретный результат быстрее, чем противник.

Если злоумышленники используют ИИ для того, чтобы дешевле и быстрее находить новые пути проникновения, защитники могут использовать ту же технологию для постоянного анализа собственной среды. И в этой гонке у них есть важное преимущество – им не нужно сначала раскрывать карту собственной инфраструктуры.

В конечном итоге борьба переходит от вопроса "кто знает больше" к вопросу "кто быстрее масштабирует свои знания и первым меняет результат".