Anthropic 公布美国大选准备措施：生成式 AI 选举风险应对成行业焦点

本文中，“已发生事实”指原始材料中明确陈述的内容；“分析判断”为编辑基于事实的合理推断，已作标注。

核心事件

已发生事实： Anthropic 于 2024 年 10 月 8 日发布美国大选准备总结。2024 年是首个生成式 AI 工具广泛可用的美国选举周期，自 2023 年 7 月起，Anthropic 已采取系列措施检测和减轻潜在滥用，并引导用户获取权威选举信息。主要措施包括：

• 2024 年 5 月更新使用政策，禁止利用其产品进行政治竞选和游说，禁止生成关于选举法律、候选人等的错误信息。
• Claude 被限制为只能生成文本，无法生成图像、音频或视频，从而消除选举相关深度伪造风险。
• 部署自动化系统检测滥用，并结合人工审核。方法包括在 claude.ai 上修改提示、审核第一方 API 用例，极端情况下暂停账户。
• 与 Amazon Web Services (AWS) 和 Google Cloud Platform (GCP) 合作，检测通过这两个平台访问 Anthropic 模型产生的选举相关危害。
• 开展政策漏洞测试（PVT）和自动化评估，覆盖政治一致性、有害查询拒绝、误导信息防范和选民画像等方面。
• 针对选举类查询，通过弹窗引导用户至非党派资源 TurboVote（由 Democracy Works 提供），并在系统提示中加入模型知识截止日期。
• 发布了部分自动化评估，并资助第三方评估以衡量 AI 能力和风险。

为什么值得关注

分析判断： 作为头部生成式 AI 公司，Anthropic 在美国大选前公开详细的安全准备，反映出行业对生成式 AI 被用于干预选举的担忧正在加剧。其做法——从政策限制到技术检测再到权威信息引导——为其他 AI 提供商和平台提供了可参考的应对框架。同时，这是首次在生成式 AI 广泛可用的背景下进行美国联邦大选，实际效果将受到各方关注。

影响分析

分析判断：

• 降低直接风险： 禁止竞选和游说、限制文本输出可直接减少深度伪造和定向政治宣传的风险；自动化检测与人工审核结合有助于发现协调行为；与 AWS 和 GCP 合作扩大了覆盖范围。
• 提升信息准确性： 引导用户至 TurboVote 等权威来源，有助于减少模型提供过时或错误选举信息的可能性。
• 推动行业安全实践： 发布自动化评估并资助第三方评估，可能促进更广泛的 AI 安全研究和方法共享。
• 局限与不确定性： 原文未提供具体效果数据或量化结果，无法判断干预的实际有效性；Anthropic 也承认无法预测所有可能的滥用方式；依赖外部云平台的合作存在协调不确定性。

未来观察点

• 选举日前后是否会出现新的滥用方式，以及 Anthropic 的应对和迭代效果。
• 第三方评估资助项目的进展与发现，能否为行业提供更有效的风险衡量工具。
• 与 AWS、GCP 等云平台合作的持续有效性，以及跨平台检测的覆盖率。
• 政策和技术干预在实际执行中的严格程度，以及是否出现误伤或遗漏。
• 其他 AI 公司是否会采取类似措施，形成行业惯例。

对创业者或企业的影响

分析判断： 对于提供生成式 AI 服务的企业，需考虑在重大事件（如选举）期间的产品安全设计，包括内容限制、检测机制和权威信息引导。同时，Anthropic 的限制措施（如仅文本输出）可能影响某些商业场景，但有助于建立用户信任和合规性。创业者可借鉴其分层防护思路，提前规划风险应对方案。

来源

原始材料来源：Anthropic News，标题《U.S. elections readiness》，URL：https://www.anthropic.com/news/us-elections-readiness