Дослідники шоковані тим, наскільки легко шахраям обманути нові агентські браузери
- Новітні браузери зі штучним інтелектом можуть стати жертвами шахраїв, що наражає на небезпеку персональні дані та фінанси користувачів.
- Дослідження показало, що агентські ШІ-браузери легко піддаються фішингу та іншим видам шахрайства, не здатні розпізнати підроблені сайти або фішингові листи.
- Експерименти з браузером Perplexity Comet виявили його неспроможність розпізнати фальшиві сайти й небезпечні дії.
Новітні браузери, оснащені штучним інтелектом, обіцяють революцію у користуванні інтернетом, виконуючи складні завдання за користувача. Однак нещодавнє дослідження виявило їхню неочікувану та тривожну вразливість – ці "розумні" помічники можуть стати жертвами шахраїв, наражаючи на небезпеку ваші персональні дані та фінанси. Ось як це працює.
У чому прихована небезпека ШІ-браузерів?
Штучний інтелект, який самостійно виконує багатоетапні й складні завдання в інтернеті (наприклад, планує поїздку чи купує товари), називають "агентським ШІ". Технологічні гіганти активно впроваджують таких помічників у свої продукти, зокрема в браузери. Ідея полягає в тому, щоб ШІ став вашим персональним асистентом, який бере на себе рутинні онлайн-операції. Проте з погляду безпеки тут криється величезна проблема: ШІ не має людського здорового глузду й справжнього розуміння того, що він робить і говорить, що робить його вкрай вразливим до обману, пише 24 Канал з посиланням на звіт Guardio.
Фахівці з кібербезпеки стартапу Guardio перевірили це у своєму звіті "Scamlexity". Вони провели низку експериментів з одним із перших загальнодоступних агентних ШІ-браузерів – Perplexity Comet, який наразі перебуває на етапі тестування й доступний дуже обмеженому колу користувачів. Результати виявились невтішними.
- В одному з тестів дослідники створили за допомогою іншого ШІ фальшивий сайт, що імітував відому мережу супермаркетів Walmart. Вони дали браузеру Comet завдання купити на цьому сайті годинник Apple Watch. ШІ-агент проігнорував очевидні ознаки підробки, як-от дивний логотип та підозрілу URL-адресу, і без вагань здійснив покупку, передавши шахраям фінансові дані користувача.
- Інший експеримент стосувався фішингу. На електронну пошту було надіслано лист, замаскований під повідомлення від банку Wells Fargo, що містив справжнє фішингове посилання. ШІ-браузер без жодних попереджень перейшов за ним і спокійно ввів логін та пароль від банківського акаунту на шахрайському сайті.
- Третій тест продемонстрував, що Comet також вразливий до так званої "ін'єкції промпту". На фішинговій сторінці було приховане текстове поле з командою для ШІ завантажити певний файл, що він і зробив.
Ці тести показують, що агентські ШІ-браузери не просто вразливі до нових видів шахрайства, а й легко потрапляють у найстаріші та найпростіші пастки, з якими люди вже давно навчилися працювати. Штучний інтелект створений, щоб виконувати команди. Якщо користувач з першого погляду не помітить ознак обману, ШІ не стане на заваді й не захистить його, а навпаки – слухняно виконає небезпечну дію.
Оскільки провідні компанії роблять великі ставки на цю технологію, розробникам необхідно терміново вбудовувати надійніші механізми виявлення шахрайства, інакше ШІ-браузери ризикують перетворитися з помічників на потужний інструмент для атак.