在2021年由OpenAI前高管创立的Anthropic，致力于创建以安全为中心的人工智能技术。该公司凭借其Claude系列大语言模型，逐渐成为OpenAI的ChatGPT的主要竞争者之一。最近，Anthropic推出了Claude for Chrome，一个新扩展程序，让用户能够在浏览器中与Claude进行实时对话，同时保留上下文信息。这一功能不仅提升了用户体验，也为AI安全性带来了新的考量。
Claude for Chrome通过在Chrome浏览器的侧边栏中显示一个对话窗口，使用户可以轻松与人工智能进行互动。用户还可以授予Claude权限，使其能在浏览器中执行多种任务，例如网页内容、进行信息搜索和自动填充表单等。这种直观的设计旨在让用户在进行日常浏览时，能够充分利用AI带来的便利。
随着AI系统获得浏览器访问权限，新的安全风险随之而来。Anthropic在其推出的博客文章中坦言，虽然Claude能够完成各种任务，但其安全性依然是首要考虑。为了应对新的挑战，Anthropic希望通过Claude for Chrome的测试，研究潜在的风险并加以解决。公司已经采取了一系列措施，以增强系统对于提示词攻击的防御能力，并成功将攻击的成功率从23.6%压缩至11.2%。这些防御策略的推出，显示了Anthropic在致力于安全AI方面的决心。
值得注意的是，Claude for Chrome已经主动限制其访问某些特定类型的网站，例如金融服务、成人内容和盗版网站。用户还可以在设置中限制Claude访问其他不希望它访问的网站。在执行高风险行动，例如进行购买、发布或共享个人数据之前，Claude会主动征求用户的许可，以确保用户信息的安全。
Claude for Chrome并非Anthropic首次尝试开发能够控制计算机的AI模型。早在2024年10月，Anthropic就已推出Claude 3.5 Sonnet模型的升级版，该版本增加了计算机控制功能。用户测试后反映其反应速度较慢，执行任务时频繁出错。此后，Claude 4和3.7模型在保留此功能的同时，继续进行改进和优化。
浏览器正在成为AI模型公司争夺的又一重要战场。近期，AI初创公司Perplexity推出了自己的AI驱动浏览器Comet，并为其配备了AI助理功能。竞争对手Brave Software公司披露，Perplexity浏览器存在严重的安全漏洞，攻击者可能利用网页中嵌入的隐藏指令诱发AI泄漏用户的私人数据。对于此类问题，Perplexity随后回应表示，该漏洞在被发现前已得到修复，显示了对用户安全性的重视。
同时，OpenAI也不甘落后，计划推出自己的AI驱动浏览器，而谷歌将其AI模型Gemini直接集成到Chrome中，使用户在浏览时能便捷地调用AI功能。这表明，AI公司在浏览器层面的竞争已经悄然展开。
在此背景下，Anthropic的资金情况同样值得关注。据外媒报道，Anthropic即将完成一轮高达100亿美元的融资，有望刷新AI行业的单笔融资纪录。此次融资由著名投资公司Iconiq Capital领投，参与机构还包括TPG、Lightspeed Venture Partners、Spark Capital和Menlo Ventures等。卡塔尔投资局和新加坡投资公司GIC等主权基金也在洽谈中，希望参与此次融资。
这样的融资动态将推动Anthropic的快速发展，帮助其进一步扩展产品线和服务能力。该公司早期曾希望通过本轮融资筹集50亿美元，以将其公司估值提升至1700亿美元，若最终成功，必将超出市场预期。今年早些时候，Anthropic以615亿美元的估值完成了由Lightspeed领投的35亿美元融资，显示出其在人工智能领域的重要地位。
Anthropic旗下的Claude for Chrome是对安全AI的有力探索，同时在用户体验与信息安全之间找到新的平衡。随着AI技术的迅速发展及其应用范围的扩大，如何有效应对潜在的安全风险，将成为未来AI公司需要高度重视的课题。