Агентские браузеры с ИИ: почему они могут подставить вас, в чем опасность и как уберечь себя

Технология агентных браузеров на основе искусственного интеллекта развивается очень быстро. В последнее время почти каждый крупный игрок на рынке ИИ уже предложил действующий агентный браузер, тестирует его, или по крайней мере анонсировал будущий продукт, как вот OpenAI, рассказывает 24 Канал. Однако уже сейчас стало понятно, что такие браузеры могут вызвать вполне реальные проблемы для пользователя.

Смотрите также Новая эпоха Grammarly: украинский сервис меняет название и ориентируется на ИИ-продукты

В чем проблема агентных браузеров?

Ведущие IT-компании интегрируют новые "умные" помощники в свои продукты. Они обещают по настоящему революционные возможности: ИИ смогут самостоятельно бронировать билеты, оформлять покупки или переписываться от имени пользователя.

По идее, это должно облегчить жизнь, избавив пользователя от рутины. Однако результаты исследований доказывают, что именно эти функции могут стать катастрофой для безопасности.

Стартап Guardio в своем исследовании "Scamlexity" проанализировал агентный ИИ-браузер Perplexity Comet, который пока доступен только узкому кругу тестировщиков.

Мы в редакции получили доступ к Comet и смогли протестировать его в работе. Он действительно может существенно сократить рутинные задачи, такие как проверка почтового ящика, переписка от имени пользователя и даже ведение соцсетей. Более того, Comet способен осуществить покупки на сайте АТБ по перечню продуктов, который вы ему предоставили и все, что вам нужно сделать, это проверить корзину и оплатить заказ.

Однако несмотря на впечатляющие возможности Comet подвержен серьезным уязвимостям. Эксперименты показали, что браузер выполняет любые команды пользователя – даже если они содержат признаки мошенничества.

• Comet не может отличить сайт оригинального магазина от созданной с мошеннической целью копии, которая может содержать подставные данные для передачи личных финансовых данных мошенникам.
• Но существует еще большая проблема – Comet уязвим к фишингу. Он может обработать письмо на почте, который содержит фишинговую ссылку, и отдать фейковому банку данные о логине и пароле пользователя, что в итоге обойдется вам в копейку.
• Кроме того, Comet уязвим к мошенническому методу под названием "инъекция промпута". Если такие скрытые команды будут заранее размещены на фишинговой странице, браузер безусловно выполнит команду и это подтвердили тесты исследователей.

Но такие проблемы с безопасностью присущи не только Comet. Другие аналогичные инструменты тоже страдают от тех или иных методов воздействия или взлома.

Почему это происходит и что с этим делать?

Агентные ИИ-браузеры не умеют распознавать ни очевидные, ни скрытые угрозы, в отличие от человека. Причин этому есть немало, но в итоге можно сказать, что технология агентных браузеров еще слишком сырая, чтобы доверять ей действительно важную информацию.

Эксперта по искусственному интеллекту из компании SoftServe и блогер Игорь Матрофайло отмечает, что агентные браузеры пока находятся в начальной стадии развития и не готовы для серьезных задач. Он категорически не рекомендует использовать их для бизнес-процессов, работы с конфиденциальными данными или входа в корпоративные системы.

Они не ставят под сомнение подозрительные действия, а лишь следуют инструкциям пользователя или сторонних сценариев. Это создает идеальные условия для кибермошенников, ведь ИИ готов автоматически делать даже самые опасные шаги.

Эксперт отмечает: всплеск популярности таких технологий непосредственно увеличивает риски для пользователей. Срочно нужны усовершенствованные механизмы защиты, которые учат ИИ различать мошеннические схемы и реагировать на потенциальную опасность.

Игорь Матрофайло очерчивает четыре основных направления, которые помогут сделать агентные браузеры менее рискованными.

• Изоляция агентского режима – браузер должен четко различать, когда пользователь просто просматривает контент, а когда активирует агентский режим для выполнения задач. На обычных страницах не должны запускаться автоматические скрипты или команды.
• Работа в безопасной среде – агентный режим должен функционировать в отдельной "песочнице" (sandbox), где пользователь самостоятельно настраивает разрешения: на какие сайты можно заходить, какие команды выполнять. Это кардинально отличается от подхода Comet, который использует единую сессию для всех действий.
• Понимание контекста команд – ИИ должен научиться отличать настоящие инструкции пользователя от скрытых команд на веб-страницах.
  "Если человек просит перейти на страницу, это не значит, что надо выполнять все скрипты, которые там спрятаны", – утверждает Игорь.
• Самоконтроль перед выполнением – перед каждым действием агент должен проверять ее безопасность и при необходимости запрашивать дополнительное подтверждение от пользователя, особенно для доступа к личной информации или входа в аккаунты.

Игорь подчеркивает, что пока эти механизмы не внедрены полностью, агентские браузеры следует использовать с максимальной осторожностью и только для простых задач, не требующих доступа к критически важным данным.

Какие агентные браузеры уже доступны, или в разработке?

• Браузер Dia, готовится к выпуску, однако тестирование пока не было проведено среди широкого круга пользователей.
• Другой браузер – Genspark, уже работает. Однако этот агентный ИИ-просмотрщик пока доступен только для macOS.
• Microsoft прокачали свой существующий браузер Edge добавив в него агентный функционал, однако это не полноценный агентный браузер.
• Opera Neon – агентный браузер от Opera, который сейчас находится в разработке. Компания еще не выпустила тестовой версии, но уверенно работает над ним.
• OpenAI также не отстает и работает над собственной разработкой. Название их агентного браузера пока неизвестно, но по слухам будет называться Aura.

Поэтому пока будущее придется несколько отложить на потом и больше внимания уделить безопасности. Вернуться к агентным браузерам можно будет позже и только тогда, когда разработчики поработают над безопасностью, однако что сейчас, что потом, следует помнить, что ваша безопасность в интернете в первую очередь зависит от вас.