Агентні браузери з ШІ: чому вони можуть підставити вас, в чому небезпека та як уберегти себе

Технологія агентних браузерів на основі штучного інтелекту розвивається дуже швидко. Останнім часом майже кожний великий гравець на ринку ШІ вже запропонував діючий агентний браузер, тестує його, або принаймні анонсував майбутній продукт, як от OpenAI, розповідає 24 Канал. Однак вже зараз стало зрозуміло, що такі браузери можуть спричинити цілком реальні проблеми для користувача.

Дивіться також Нова епоха Grammarly: український сервіс змінює назву та орієнтується на ШІ-продукти 

В чому проблема агентних браузерів?

Провідні IT-компанії інтегрують нові "розумні" помічники у свої продукти. Вони обіцяють по справжньому революційні можливості: ШІ зможуть самостійно бронювати квитки, оформляти покупки чи листуватися від імені користувача.

За ідеєю, це має полегшити життя, позбавивши користувача від рутини. Проте результати досліджень доводять, що саме ці функції можуть стати катастрофою для безпеки.

Стартап Guardio у своєму дослідженні "Scamlexity" проаналізував агентний ШІ-браузер Perplexity Comet, який поки доступний лише вузькому колу тестувальників.

Ми в редакції отримали доступ до Comet і змогли протестувати його в роботі. Він справді може суттєво скоротити рутинні задачі, такі як перевірка поштової скриньки, листування від імені користувача і навіть ведення соцмереж. Щобільше, Comet здатен здійснити покупки на сайті АТБ за переліком продуктів, який ви йому надали і все, що вам потрібно зробити, це перевірити корзину та оплатити замовлення.

Однак попри вражаючі можливості Comet схильний до серйозних вразливостей. Експерименти показали, що браузер виконує будь-які команди користувача – навіть якщо вони містять ознаки шахрайства.

• Comet не може відрізнити сайт оригінального магазину від створеної з шахрайською метою копії, яка може містити підставні дані для передачі особистих фінансових даних шахраям.
• Але існує ще більша проблема – Comet вразливий до фішингу. Він може опрацювати лист на пошті, який містить фішингове посилання, та віддати фейковому банку дані про логін та пароль користувача, що у підсумку обійдеться вам в копійку.
• Крім того, Comet вразливий до шахрайського методу під назвою "ін'єкція промпту". Якщо такі приховані команди будуть заздалегідь розміщені на фішинговій сторінці, браузер безумовно виконає команду і це підтвердили тести дослідників.

Але такі проблеми з безпекою притаманні не лише Comet. Інші аналогічні інструменти теж страждають від тих чи інших методів впливу або зламу.

Чому це відбувається і що з цим робити?

Агентні ШІ-браузери не вміють розпізнавати ні очевидні, ні приховані загрози, на відміну від людини. Причин цьому є чимало, але у підсумку можна сказати, що технологія агентних браузерів ще надто сира, аби довіряти їй справді важливу інформацію.

Експерта зі штучного інтелекту з компанії SoftServe та блогер Ігор Матрофайло наголошує, що агентні браузери поки що перебувають у початковій стадії розвитку та не готові для серйозних завдань. Він категорично не рекомендує використовувати їх для бізнес-процесів, роботи з конфіденційними даними чи входу в корпоративні системи.

Вони не ставлять під сумнів підозрілі дії, а лише слідують інструкціям користувача чи сторонніх сценаріїв. Це створює ідеальні умови для кібершахраїв, адже ШІ готовий автоматично робити навіть найнебезпечніші кроки.

Експерт наголошує: сплеск популярності таких технологій безпосередньо збільшує ризики для користувачів. Терміново потрібні вдосконалені механізми захисту, які навчають ШІ розрізняти шахрайські схеми та реагувати на потенційну небезпеку.

Ігор Матрофайло окреслює чотири основні напрямки, які допоможуть зробити агентні браузери менш ризикованими.

• Ізоляція агентного режиму – браузер має чітко розрізняти, коли користувач просто переглядає контент, а коли активує агентний режим для виконання завдань. На звичайних сторінках не повинні запускатися автоматичні скрипти чи команди.
• Робота в безпечному середовищі – агентний режим має функціонувати в окремій "пісочниці" (sandbox), де користувач самостійно налаштовує дозволи: на які сайти можна заходити, які команди виконувати. Це кардинально відрізняється від підходу Comet, який використовує єдину сесію для всіх дій.
• Розуміння контексту команд – ШІ має навчитися відрізняти справжні інструкції користувача від прихованих команд на вебсторінках.
  "Якщо людина просить перейти на сторінку, це не означає, що треба виконувати всі скрипти, які там заховані", – стверджує Ігор.
• Самоконтроль перед виконанням – перед кожною дією агент повинен перевіряти її безпечність і при потребі запитувати додаткове підтвердження від користувача, особливо для доступу до особистої інформації чи входу в акаунти.

Ігор підкреслює, що поки ці механізми не впроваджені повністю, агентні браузери варто використовувати з максимальною обережністю і тільки для простих завдань, які не потребують доступу до критично важливих даних.

Які агентні браузери вже доступні, або в розробці?

• Браузер Dia, готується до випуску, однак тестування поки що не було проведено серед широкого кола користувачів.
• Інший браузер – Genspark, уже працює. Однак цей агентний ШІ-переглядач наразі доступний лише для macOS.
• Microsoft прокачали свій існуючий браузер Edge додавши в нього агентний функціонал, однак це не повноцінний агентний браузер.
• Opera Neon – агентний браузер від Opera, який наразі перебуває у розробці. Компанія ще не випустила тестової версії, але впевнено працює над ним.
• OpenAI також не пасе задніх і працює над власною розробкою. Назва їхнього агентного браузера наразі невідома, але за чутками буде називатися Aura.

Тож наразі майбутнє доведеться дещо відкласти на потім та більше уваги приділити безпеці. Повернутися до агентних браузерів можна буде згодом і лише тоді, коли розробники попрацюють над безпекою, однак що зараз, що потім, слід пам'ятати, що ваша безпека в інтернеті в першу чергу залежить від вас.