Как работает новый ИИ-помощник?
Вместо того чтобы выпускать отдельный агентный браузер, как это сделала компания Perplexity, Anthropic предлагает похожие функции в рамках обычного расширения для Google Chrome. Оно интегрирует языковую модель Claude непосредственно в браузер, не заставляя переходить из рабочей среды, к которой вы уже привыкли, пишет 24 Канал.
Смотрите также Агентские браузеры с ИИ: почему они могут подставить вас, в чем опасность и как уберечь себя
Нажатие на кнопку расширения вызывает боковую панель, где пользователь может давать команды искусственному интеллекту. В отличие от обычных чат-ботов, этот агент может взаимодействовать с контентом страниц: он видит то же, что и пользователь, и способен самостоятельно нажимать на кнопки, заполнять формы, искать товары и добавлять их в корзину.
Пока непонятно, сможет ли он работать между вкладками, видеть все открытые вкладки и управлять самим браузером.
Как работает новое расширение Claude for Chrome: видео
Этот шаг является частью новой волны конкуренции между технологическими гигантами, где браузеры превращаются в поле битвы за доминирование в сфере ИИ. Такие компании, как Perplexity со своим браузером Comet и OpenAI, также работают над аналогичными продуктами. Идея заключается в том, чтобы превратить браузер с пассивного инструмента для просмотра веб-страниц на активного помощника, выполняющего задачи вместо пользователя.
Сейчас доступ к Claude for Chrome предоставляется в ограниченном режиме. Его могут протестировать только 1000 пользователей платного тарифа Claude Max, стоимость которого составляет от 100 до 200 долларов в месяц. Для остальных открыт список ожидания. Такой осторожный подход связан с высокими рисками безопасности, которые признает сама Anthropic.
Какие угрозы несет новая функция?
Главная опасность заключается в атаках, которые называются "инъекция скрытых инструкций". Злоумышленники могут размещать на вебстраницах невидимые для человеческого глаза команды, например, написанные белым текстом на белом фоне. Когда ИИ-агент анализирует такую страницу для выполнения задачи пользователя (например, для обобщения ее содержания), он может воспринять эти скрытые инструкции как легитимные и выполнить их.
Исследователи безопасности уже продемонстрировали, как подобная уязвимость в другом ИИ-браузере, Comet от Perplexity, позволила обманом заставить ассистента перейти в почтовый ящик Gmail, скопировать одноразовый пароль и передать его злоумышленнику. Поскольку ИИ-агенты работают с полными правами доступа пользователя в браузере, они потенциально могут получить доступ к банковским счетам, корпоративным системам, личным электронным письмам и другой конфиденциальной информации. Они могут не распознать фишинговый сайт – например, подделку интернет-магазина – и ввести там данные вашей карты, выдав их мошенникам.
В Anthropic уверяют, что работают над решением этой проблемы.
- Компания уже внедрила определенные меры безопасности: по умолчанию агент не имеет доступа к сайтам финансовых сервисов и ресурсов с пиратским или взрослым контентом.
- Перед выполнением потенциально рискованных действий, например совершение покупки или передача персональных данных, Claude for Chrome запрашивает подтверждение у пользователя.
Разработчики утверждают, что им удалось снизить эффективность атак с использованием инъекций с 23,6% до 11,2%.
Дальнейшее тестирование в реальных условиях должно помочь выявить и устранить другие уязвимости перед тем, как сделать продукт общедоступным.
Когда расширение выйдет для всех и будет ли оно доступно на других браузерах, построенных на Chromium, пока неизвестно.