Anthropic випускає розширення, яке перетворює звичайний браузер на агентський

Як працює новий ШІ-помічник?

Замість того щоб випускати окремий агентний браузер, як це зробила компанія Perplexity, Anthropic пропонує схожі функції в рамках звичайного розширення для Google Chrome. Воно інтегрує мовну модель Claude безпосередньо у браузер, не змушуючи переходити з робочого середовища, до якого ви вже звикли, пише 24 Канал.

Дивіться також Агентні браузери з ШІ: чому вони можуть підставити вас, в чому небезпека і як вберегти себе 

Натискання на кнопку розширення викликає бічну панель, де користувач може давати команди штучному інтелекту. На відміну від звичайних чат-ботів, цей агент може взаємодіяти з контентом сторінок: він бачить те саме, що й користувач, і здатен самостійно натискати на кнопки, заповнювати форми, шукати товари та додавати їх у кошик.

Поки незрозуміло, чи зможе він працювати між вкладками, бачити всі відкриті вкладки І керувати самим браузером.

Як працює нове розширення Claude for Chrome: відео

Цей крок є частиною нової хвилі конкуренції між технологічними гігантами, де браузери перетворюються на поле битви за домінування у сфері ШІ. Такі компанії, як Perplexity зі своїм браузером Comet та OpenAI, також працюють над аналогічними продуктами. Ідея полягає в тому, щоб перетворити браузер з пасивного інструмента для перегляду вебсторінок на активного помічника, що виконує завдання замість користувача.

Наразі доступ до Claude for Chrome надається в обмеженому режимі. Його можуть протестувати лише 1000 користувачів платного тарифу Claude Max, вартість якого становить від 100 до 200 доларів на місяць. Для інших відкрито список очікування. Такий обережний підхід пов'язаний з високими ризиками безпеки, які визнає сама Anthropic.

Які загрози несе нова функція?

Головна небезпека полягає в атаках, які називаються "ін'єкція прихованих інструкцій". Зловмисники можуть розміщувати на вебсторінках невидимі для людського ока команди, наприклад, написані білим текстом на білому тлі. Коли ШІ-агент аналізує таку сторінку для виконання завдання користувача (наприклад, для узагальнення її змісту), він може сприйняти ці приховані інструкції як легітимні й виконати їх.

Дослідники безпеки вже продемонстрували, як подібна вразливість в іншому ШІ-браузері, Comet від Perplexity, дозволила обманом змусити асистента перейти в поштову скриньку Gmail, скопіювати одноразовий пароль і передати його зловмиснику. Оскільки ШІ-агенти працюють з повними правами доступу користувача в браузері, вони потенційно можуть отримати доступ до банківських рахунків, корпоративних систем, особистих електронних листів та іншої конфіденційної інформації. Вони можуть не розпізнати фішинговий сайт – наприклад, підробку інтернет-магазину – і ввести там дані вашої картки, видавши їх шахраям.

В Anthropic запевняють, що працюють над розв'язанням цієї проблеми.

• Компанія вже впровадила певні заходи безпеки: за замовчуванням агент не має доступу до сайтів фінансових сервісів та ресурсів з піратським або дорослим контентом.
• Перед виконанням потенційно ризикованих дій, як-от здійснення покупки або передача персональних даних, Claude for Chrome запитує підтвердження в користувача. 

Розробники стверджують, що їм вдалося знизити ефективність атак з використанням ін'єкцій з 23,6% до 11,2%.

Подальше тестування в реальних умовах має допомогти виявити та усунути інші вразливості перед тим, як зробити продукт загальнодоступним.

Коли розширення вийде для всіх і чи буде воно доступне на інших браузерах, побудованих на Chromium, наразі невідомо.