Исследователи шокированы тем, насколько легко мошенникам обмануть новые агентские браузеры
- Новейшие браузеры с искусственным интеллектом могут стать жертвами мошенников, что подвергает опасности персональные данные и финансы пользователей.
- Исследование показало, что агентские ИИ-браузеры легко поддаются фишингу и другим видам мошенничества, не способны распознать поддельные сайты или фишинговые письма.
- Эксперименты с браузером Perplexity Comet выявили его неспособность распознать фальшивые сайты и опасные действия.
Новейшие браузеры, оснащенные искусственным интеллектом, обещают революцию в пользовании интернетом, выполняя сложные задачи за пользователя. Однако недавнее исследование выявило их неожиданную и тревожную уязвимость – эти "умные" помощники могут стать жертвами мошенников, подвергая опасности ваши персональные данные и финансы. Вот как это работает.
В чем скрытая опасность ИИ-браузеров?
Искусственный интеллект, который самостоятельно выполняет многоэтапные и сложные задачи в интернете (например, планирует поездку или покупает товары), называют "агентским ИИ". Технологические гиганты активно внедряют таких помощников в свои продукты, в частности в браузеры. Идея заключается в том, чтобы ИИ стал вашим персональным ассистентом, который берет на себя рутинные онлайн-операции. Однако с точки зрения безопасности здесь кроется огромная проблема: ИИ не имеет человеческого здравого смысла и настоящего понимания того, что он делает и говорит, что делает его крайне уязвимым к обману, пишет 24 Канал со ссылкой на отчет Guardio.
Специалисты по кибербезопасности стартапа Guardio проверили это в своем отчете "Scamlexity". Они провели ряд экспериментов с одним из первых общедоступных агентных ИИ-браузеров – Perplexity Comet, который сейчас находится на этапе тестирования и доступен очень ограниченному кругу пользователей. Результаты оказались неутешительными.
- В одном из тестов исследователи создали с помощью другого ИИ фальшивый сайт, имитирующий известную сеть супермаркетов Walmart. Они дали браузеру Comet задание купить на этом сайте часы Apple Watch. ИИ-агент проигнорировал очевидные признаки подделки, например странный логотип и подозрительный URL-адрес, и без колебаний совершил покупку, передав мошенникам финансовые данные пользователя.
- Другой эксперимент касался фишинга. На электронную почту было отправлено письмо, замаскированное под сообщение от банка Wells Fargo, содержащее настоящую фишинговую ссылку. ИИ-браузер без всяких предупреждений перешел по ней и спокойно ввел логин и пароль от банковского аккаунта на мошенническом сайте.
- Третий тест продемонстрировал, что Comet также уязвим к так называемой "инъекции промпута". На фишинговой странице было скрытое текстовое поле с командой для ИИ загрузить определенный файл, что он и сделал.
Эти тесты показывают, что агентские ИИ-браузеры не просто уязвимы к новым видам мошенничества, но и легко попадают в самые старые и простые ловушки, с которыми люди уже давно научились работать. Искусственный интеллект создан, чтобы выполнять команды. Если пользователь с первого взгляда не заметит признаков обмана, ИИ не помешает и не защитит его, а наоборот – послушно выполнит опасное действие.
Поскольку ведущие компании делают большие ставки на эту технологию, разработчикам необходимо срочно встраивать более надежные механизмы обнаружения мошенничества, иначе ИИ-браузеры рискуют превратиться из помощников в мощный инструмент для атак.