Компания Anthropic объявила, что запускает предварительную исследовательскую версию браузерного ИИ-агента, работающего на основе моделей искусственного интеллекта Claude. Агент Claude для Chrome доступен группе из 1000 подписчиков тарифного плана Anthropic Max, стоимость которого составляет от 100 до 200 долларов в месяц. Компания также открывает лист ожидания для других заинтересованных пользователей.
Добавив расширение в Chrome, некоторые пользователи теперь могут общаться с Claude в боковом окне, которое сохраняет контекст всего, что происходит в их браузере. Пользователи также могут разрешить агенту Claude выполнять действия в своем браузере и выполнять некоторые задачи от их имени.
Браузер быстро становится следующим полем битвы для лабораторий искусственного интеллекта, которые стремятся использовать интеграцию с браузерами для обеспечения более бесшовных соединений между системами искусственного интеллекта и их пользователями. Perplexity недавно выпустила собственный браузер Comet с ИИ-агентом, который может разгружать задачи для пользователей. Сообщается, что OpenAI близок к запуску собственного браузера на базе ИИ, который, по слухам, будет обладать функциями, аналогичными Comet. Тем временем, Google в последние месяцы запустила интеграцию Gemini с Chrome.
Гонка за разработку браузеров на базе ИИ особенно актуальна в свете надвигающегося антимонопольного дела Google, окончательное решение по которому ожидается со дня на день. Федеральный судья, рассматривающий это дело, предположил, что может заставить Google продать свой браузер Chrome. Perplexity подала предложение о покупке Chrome на сумму 34.5 миллиарда долларов, а генеральный директор OpenAI Сэм Альтман заявил, что его компания также готова его купить.
Во вторник в блоге Anthropic предупредила, что рост числа ИИ-агентов с доступом к браузеру создаёт новые риски безопасности. На прошлой неделе команда безопасности Brave заявила, что обнаружила, что агент браузера Comet может быть уязвим к атакам с непрямым внедрением подсказок (prompt-injection), когда скрытый код на веб-сайте может обманным путём заставить агента выполнить вредоносные инструкции при обработке страницы.
Anthropic заявляет, что надеется использовать эту preview версию как возможность выявить и устранить новые угрозы безопасности; однако компания уже внедрила несколько мер защиты от атак с использованием prompt-injection. Компания заявляет, что её меры снизили успешность атак с 23.6% до 11.2%.
Это не первая попытка Anthropic создать ИИ-модели, способные управлять экраном компьютера. В октябре 2024 года компания запустила ИИ-агента, способного управлять ПК. Однако тогдашнее тестирование показало, что модель довольно медленная и ненадёжная.