Хакеры создали вирус, изменяющий себя с помощью искусственного интеллекта / Depositphotos
Специалисты Google обнаружили экспериментальное вредоносное программное обеспечение PROMPTFLUX, которое способно изменять собственный код в режиме реального времени, используя искусственный интеллект. Такой подход может сделать подобные вирусы почти неуловимыми для антивирусных систем и ставит новые вызовы для кибербезопасности.
Исследователи из подразделения Google Threat Intelligence Group сообщили о новом семействе вредоносного ПО, которое использует большие языковые модели (LLM), чтобы оставаться незамеченным. PROMPTFLUX переписывает свой код "на ходу", меняя структуру и обходные механизмы каждый раз, когда есть риск обнаружения, рассказывает 24 Канал. Благодаря этому он может адаптироваться к различным условиям и системам защиты.
Смотрите также Новый ИИ сканирует лицо, чтобы подсказать компаниям, стоит ли нанимать вас на работу
По словам Google, этот троян относится к так называемому "just-in-time" подходу – он генерирует вредоносные функции при необходимости, а не сохраняет их в коде заранее. PROMPTFLUX взаимодействует с API искусственного интеллекта Gemini, получая от него советы, как самому безопаснее модифицироваться.
Эксперты считают, что вирус находится на стадии тестирования – в коде остались комментарии, незавершенные функции и ограничения на количество запросов к API. Google уже деактивировала инфраструктуру, связанную с этим экспериментом.
Впрочем, угроза не вымышленная: PROMPTFLUX связывают с киберпреступниками, которые преследуют финансовые цели. Анализ Google также показал рост черного рынка нелегальных инструментов с искусственным интеллектом, которые позволяют даже неопытным злоумышленникам создавать свои вирусы.
Средние цены в сети АЗС «Amic Energy» по состоянию на
Существует также модификация PromptSteal. Это программа применяется для похищения данных и использует LLM Qwen2.5-Coder-32B-Instruct для получения информации и файлов.
Помимо финансовых групп, злоупотребление ИИ фиксируется и среди государственных хакерских структур. Google сообщила, что группы из Северной Кореи, Ирана, Китая и России уже экспериментируют с использованием генеративного ИИ в собственных кибероперациях.
Как сообщает издание dev.ua, россияне уже могли применять этот вирус в атаках против Украины. Дело в том, что он содержит вредоносный софт LAMEHUG, который использовал LLM Qwen 2.5-Coder-32B-Instruct для похищения данных.
В то же время технологию ИИ можно применять и для защиты. Недавно Google представила агента под названием Big Sleep, созданного для выявления уязвимостей в программном обеспечении. Таким образом, в мире безопасности разворачивается новое противостояние – когда искусственный интеллект борется с другим искусственным интеллектом.
Связанные темы:
Если Вы обнаружили ошибку на этой странице, выделите ее и нажмите Ctrl + Enter
Комментарии