Anthropic 公开 Claude Fable 5 网络安全分类器细节并提议 AI 越狱严重性框架

核心事件

Anthropic 于 2026 年 7 月 2 日宣布，Claude Fable 5 已重新部署并面向全球所有用户开放。同时，Anthropic 公开了该模型内置的网络安全分类器详情，并将网络安全使用分为四类：禁止使用、高风险双用途、低风险双用途和良性使用。此外，Anthropic 提出了一份早期草案版的 AI 越狱严重性框架（Cyber Jailbreak Severity, CJS），用于评估越狱带来的真实风险。

为什么值得关注

AI 越狱的严重性目前缺乏公认的评判标准，导致开发者、政府等难以用一致的语言沟通风险。Anthropic 提出的 CJS 框架旨在填补这一空白，通过四个维度（能力增益、能力增益广度、武器化难易度、可发现性）将越狱等级划分为 CJS-0 至 CJS-4，且各等级间呈指数级差异。若该框架获得行业采纳，将有助于安全团队、政策制定者和研究者更精准地评估和响应越狱威胁。

影响分析

• 对模型使用方：分类器将部分低风险双用途活动纳入“安全裕度”内，并设置较大裕度，这可能导致一些正当的防御性请求被误拦。但此举也降低了高风险活动被放行的概率。
• 对安全生态：Anthropic 已启动 HackerOne 计划，邀请安全研究人员提交针对 Fable 5 的潜在网络越狱，旨在通过合作建立防护标准。
• 对行业沟通：CJS 框架目前仅为草案，评分包含一定主观判断，且允许在初始分数基础上上调但不能下调。其是否能成为共识标准，取决于学术界、产业界和政府的反馈。

未来观察点

• CJS 框架是否根据反馈进行修订，并逐步形成行业通用标准。
• 分类器在实际部署中的误报率和拦截效果，Anthropic 是否会调整“安全裕度”大小。
• HackerOne 计划所收集的越狱样本数量和质量，以及是否发现新的高风险越狱技术。
• 其他 AI 开发者是否会跟进采用类似框架或分类方法。

对创业者或企业的影响

依赖 AI 模型进行网络安全工作的企业（如安全运营、漏洞研究、红队测试）需要关注 Fable 5 的分类器边界，评估其对自身业务流程的影响。同时，企业安全团队可参考 CJS 框架，对内部使用的 AI 工具进行越狱风险评估，并关注该框架未来是否成为合规或采购标准。

来源

Anthropic News

（说明：以上内容仅基于给定原始材料，不构成投资或安全建议。）