Anthropic 公司周二宣布 ，即将推出一款基于浏览器的人工智能代理的研究预览版，该代理由其 Claude AI 模型驱动。这款名为 Claude for Chrome 的代理正在向 Anthropic Max 套餐的 1000 名用户推出，该套餐每月费用在 100 至 200 美元之间。该公司还为其他感兴趣的用户开放了候补名单。
通过向 Chrome 添加扩展程序，部分用户现在可以在 Sidecar 窗口中与 Claude 聊天，该窗口会保留其浏览器中所有事件的上下文。用户还可以授权 Claude 代理在其浏览器中执行操作并代表他们完成某些任务。
浏览器正迅速成为人工智能实验室的下一个战场，它们的目标是利用浏览器集成，在人工智能系统和用户之间提供更无缝的连接。
在周二的博客文章中，Anthropic 警告称，拥有浏览器访问权限的人工智能代理的兴起带来了新的安全风险。上周，Brave 的安全团队表示，发现 Comet 的浏览器代理可能容易受到间接提示注入攻击 ，即网站上的隐藏代码可能会诱骗代理在处理页面时执行恶意指令。
Anthropic 表示，希望利用此次研究预览来发现并解决新的安全风险；然而，该公司已经推出了几种针对即时注入攻击的防御措施。该公司表示，其干预措施将即时注入攻击的成功率从 23.6% 降低到了 11.2%。
例如，Anthropic 表示，用户可以在应用设置中限制 Claude 的浏览器代理访问某些网站，并且该公司已默认阻止 Claude 访问提供金融服务、成人内容和盗版内容的网站。该公司还表示，Claude 的浏览器代理在“采取发布、购买或共享个人数据等高风险行动”之前会征求用户许可。
这并不是 Anthropic 首次涉足控制电脑屏幕的 AI 模型。早在 2024 年 10 月，该公司就推出了一款可以控制电脑的AI 代理——然而，当时的测试表明，该模型速度相当慢，而且不可靠。
自那时以来，代理型人工智能模型的能力已显著提升。现代浏览器人工智能代理（例如 Comet 和 ChatGPT Agent ）在为用户分担简单任务方面相当可靠。然而，许多此类代理系统在处理更复杂的问题时仍然举步维艰。