人类有 揭开了 Chrome Claude的研究预览，Chrome是一种由Claude AI模型提供支持的基于浏览器的AI代理。最初的推出仅限于1,000个订户在Anthropic的最大计划中，而候补表是为有兴趣访问新功能的其他用户建立的。
Chrome扩展名的Claude允许选择用户通过边车窗口与Claude互动。它保持对用户浏览器活动的认识。用户可以授权Claude在浏览器中执行操作，从而促进任务完成。
将AI集成到浏览器中已成为AI实验室的竞争领域。目的是在AI系统和用户之间建立更多的无缝连接。 Gelplexity最近引入了Comet，该彗星是其自己的浏览器，该浏览器具有AI代理，旨在为用户提供各种任务。猜测表明，OpenAI还正在开发具有与彗星类似功能的AI驱动浏览器。 Google已经开始将其双子座模型整合到Chrome中。
鉴于Google正在进行的反托拉斯案例，这推动了AI增强浏览器的额外意义。预计该案的最终决定将很快做出。主席法官表示有可能要求Google剥离其Chrome浏览器。作为回应，困惑为Chrome提交了345亿美元的未经请求的出价。 Openai首席执行官Sam Altman还表示潜在的兴趣获取浏览器。
众人解决了与具有浏览器访问的AI代理相关的潜在安全问题。 Brave的安全团队确定了Comet的浏览器代理中的漏洞。这种脆弱性使其容易受到间接提示攻击的影响。此类攻击涉及网站上的恶意代码，该网站可以操纵代理商在处理页面时执行意外说明。
困惑对报告的脆弱性做出了反应。困惑的传播负责人杰西·德威尔（Jesse Dwyer）与 TechCrunch 通过电子邮件，已经解决了勇敢者提出的确定的漏洞。该决议强调了主动安全措施在AI驱动的浏览器不断发展的景观中的重要性。
拟人化的目的是利用本研究预览来识别和解决新的安全风险。该公司已经实施了防御迅速注射攻击的防御措施。这些干预措施已将此类攻击的成功率从23.6％降低到11.2％。这表明，随着AI代理与浏览器功能更加整合，可以减轻潜在漏洞的承诺。
用户可以选择限制Claude在应用程序设置中对特定网站的访问。 Anthropic已实施默认限制，阻止Claude访问提供金融服务，成人内容和盗版内容的网站。这些措施旨在保护用户免受潜在有害或不适当的在线环境。
在执行高风险动作（例如发布，购买或共享个人数据）之前，Claude的浏览器代理将请求用户许可。该措施增加了一个额外的安全层，并确保用户保留对通过AI代理进行的敏感操作的控制。
这不是拟人化的首次涉足能够控制计算机屏幕的AI模型。 2024年10月，该公司引入了一个具有控制PC的AI代理商。但是，初始测试揭示了局限性。该模型表现出缓慢的性能和缺乏一致的可靠性。
代理AI模型有所改善。现代浏览器AI代理（包括彗星和ChatGpt代理）在执行简单任务方面变得更加可靠。尽管能够处理基本功能，但这些系统面临局限性。由于现实世界情景的复杂性，许多代理系统仍然在复杂的问题上挣扎。
