Anthropic 发布前沿模型安全实践建议：双人控制与安全开发框架
Anthropic 于 2023 年 7 月 25 日发文，介绍其正在实施的双人控制、SSDF 和 SLSA 等安全实践，并建议通过政府采购和监管提升前沿 AI 模型的安全基线。
- 发布时间
- 更新时间
趋势正文
核心事件
2023 年 7 月 25 日，Anthropic 在其官网发布《Frontier model security》一文，介绍该公司在开发前沿 AI 模型时正在采取的安全措施，并提出面向行业和政府的网络安全建议。文章重点讨论了双人控制（two-party control）、NIST 安全软件开发框架（SSDF）和软件制品供应链级别（SLSA）等实践。
为什么值得关注
随着前沿 AI 模型能力增强，模型权重、研发数据和部署环境面临更高的盗窃与滥用风险。Anthropic 作为前沿实验室公开具体安全实践，可能为行业讨论提供参考，也可能影响后续政策与采购要求。
影响分析
Anthropic 提出“双人控制”/“多主体授权”以降低内部风险和高级威胁；建议采用 NIST SSDF 和 SLSA 等成熟软件开发框架来建立模型开发的“链式监管”和来源可追溯性。文章表示 Anthropic 自身正在实施这些措施，但原文未提供外部验证或量化效果。若相关建议通过政府采购或监管要求落地，可能促使 AI 公司和云服务商提升安全基线，并在前沿 AI 领域形成类似关键基础设施的公私合作机制。
未来观察点
- NIST 是否将 SSDF 扩展至模型开发并形成标准流程
- 政府采购和监管是否纳入上述安全要求
- 行业内双人控制、SSDF/SLSA 的实际采纳程度和效果
- 前沿 AI 安全公私合作机制如何建立与运行
- 安全控制与研发效率之间的平衡方式
对创业者或企业的影响
AI 创业公司与相关软件供应商可能需要提前了解 SSDF/SLSA 和双人控制等实践，以应对未来客户或监管的合规要求；采用这些措施可能增加初始安全成本，但有助于提升客户信任、满足云平台和政府采购门槛。企业可关注云服务商是否将安全要求向下游传递。
来源
分类与标签
分类：AI趋势；标签：Anthropic、前沿模型安全、SSDF、SLSA、双人控制、AI安全政策