Исследователи шокированы тем, насколько легко мошенникам обмануть новые агентские браузеры

Александр Гайдамашко

Основные тезисы

Новейшие браузеры с искусственным интеллектом могут стать жертвами мошенников, что подвергает опасности персональные данные и финансы пользователей.
Исследование показало, что агентские ИИ-браузеры легко поддаются фишингу и другим видам мошенничества, не способны распознать поддельные сайты или фишинговые письма.
Эксперименты с браузером Perplexity Comet выявили его неспособность распознать фальшивые сайты и опасные действия.

Уязвимость ИИ-браузеров – как искусственный интеллект становится жертвой онлайн-мошенников

Скрытая опасность ИИ-браузеров, о которой вы не догадывались / Freepik

Новейшие браузеры, оснащенные искусственным интеллектом, обещают революцию в пользовании интернетом, выполняя сложные задачи за пользователя. Однако недавнее исследование выявило их неожиданную и тревожную уязвимость – эти "умные" помощники могут стать жертвами мошенников, подвергая опасности ваши персональные данные и финансы. Вот как это работает.

В чем скрытая опасность ИИ-браузеров?

Искусственный интеллект, который самостоятельно выполняет многоэтапные и сложные задачи в интернете (например, планирует поездку или покупает товары), называют "агентским ИИ". Технологические гиганты активно внедряют таких помощников в свои продукты, в частности в браузеры. Идея заключается в том, чтобы ИИ стал вашим персональным ассистентом, который берет на себя рутинные онлайн-операции. Однако с точки зрения безопасности здесь кроется огромная проблема: ИИ не имеет человеческого здравого смысла и настоящего понимания того, что он делает и говорит, что делает его крайне уязвимым к обману, пишет 24 Канал со ссылкой на отчет Guardio.

Специалисты по кибербезопасности стартапа Guardio проверили это в своем отчете "Scamlexity". Они провели ряд экспериментов с одним из первых общедоступных агентных ИИ-браузеров – Perplexity Comet, который сейчас находится на этапе тестирования и доступен очень ограниченному кругу пользователей. Результаты оказались неутешительными.

В одном из тестов исследователи создали с помощью другого ИИ фальшивый сайт, имитирующий известную сеть супермаркетов Walmart. Они дали браузеру Comet задание купить на этом сайте часы Apple Watch. ИИ-агент проигнорировал очевидные признаки подделки, например странный логотип и подозрительный URL-адрес, и без колебаний совершил покупку, передав мошенникам финансовые данные пользователя.
Другой эксперимент касался фишинга. На электронную почту было отправлено письмо, замаскированное под сообщение от банка Wells Fargo, содержащее настоящую фишинговую ссылку. ИИ-браузер без всяких предупреждений перешел по ней и спокойно ввел логин и пароль от банковского аккаунта на мошенническом сайте.
Третий тест продемонстрировал, что Comet также уязвим к так называемой "инъекции промпута". На фишинговой странице было скрытое текстовое поле с командой для ИИ загрузить определенный файл, что он и сделал.

Эти тесты показывают, что агентские ИИ-браузеры не просто уязвимы к новым видам мошенничества, но и легко попадают в самые старые и простые ловушки, с которыми люди уже давно научились работать. Искусственный интеллект создан, чтобы выполнять команды. Если пользователь с первого взгляда не заметит признаков обмана, ИИ не помешает и не защитит его, а наоборот – послушно выполнит опасное действие.

Поскольку ведущие компании делают большие ставки на эту технологию, разработчикам необходимо срочно встраивать более надежные механизмы обнаружения мошенничества, иначе ИИ-браузеры рискуют превратиться из помощников в мощный инструмент для атак.