Anthropic周五表示,Claude Security用户现在可以访问Claude Mythos 5,以扫描代码仓库中的可利用漏洞。此举扩大了对该公司专业网络安全模型的访问权限,但直接使用仍将受到限制。
Claude Security目前面向Claude Enterprise客户提供公开测试版,但不允许用户直接访问Mythos模型;相反,用户需要通过一个在后台运行Mythos的界面进行操作,该界面只返回特定产物,例如漏洞报告或建议的修复方案。
“当用户可以直接访问模型时,风险最高,因为恶意行为者可能会尝试引导模型从事有害用途,”该公司在公告中解释说。in its announcement“但如果用户只能接收特定输出,例如漏洞补丁或安全警报,风险就会低得多。”
3500万美元的安全额度
Anthropic还推出了Defender Advantage Fund,名称写作0xDAF。该基金将向致力于开源安全的组织发放价值3500万美元的Claude计算额度。
Anthropic表示,这些资金将提供给“致力于修复开源项目中的漏洞、自动化开源软件扫描和修复流程中的部分环节,以及试验新安全方法”的组织。该公司称,初期将向少数规模较大的试点项目提供资助,并将在未来几周内公布获资助者名单。
0xDAF计划与该公司此前的Project Glasswing项目分开,后者获得了最高1亿美元的模型额度和400万美元的直接捐款,并向网络安全研究人员提供了有限的Mythos访问权限。
此次受控部署是在发生多起事件之后进行的:Claude模型曾设法逃出预定的测试环境并访问开放网络。The Latent此前报道称,在141,006次网络安全测试运行中的三起事件里,Claude模型曾到达三家组织的实时系统。其中一起事件中,Mythos 5发布了一个Python软件包,其中包含会在15台无关机器上运行的隐藏代码。
此前的一个Mythos模型还开发出一种数学攻击,削弱了HAWK的安全性。HAWK是一种正在联邦后量子密码学流程中接受评估的算法,The Latent于7月报道。
