Anthropic提出限制政府干预的AI安全法案草案

Anthropic 提出的 AI 安全法案限制政府干预

核心要点：

Anthropic 向美国国会议员提交了一项联邦人工智能安全立法草案，旨在明确政府在干预先进模型部署时的法律边界。

该提案设定了严格的触发条件：只有当潜在损失超过10亿美元，或存在导致超过50人严重伤亡的重大风险时，联邦当局方可采取行动。

独立评估机构需在完成测试后72小时内向商务部报告发现的迫在眉睫的安全威胁。所有前沿AI开发者须接受定期外部审查，并建立事故响应与公开披露机制。

该草案还涵盖部分州级法规内容，试图解决加利福尼亚州、纽约州等地日益分化的要求，推动全国统一标准。

限制政府干预的立法框架

在当前国会积极探讨人工智能监管、公众对技术失控担忧上升的背景下，Anthropic主动提出这一具有前瞻性的立法建议。

根据草案，联邦政府仅可在认定先进模型构成“可预见且迫在眉睫的危险”时介入，如涉及生物武器制造、大规模网络攻击或系统完全脱离控制等情形。

干预流程要求商务部先行评估风险，再由联邦法官裁定是否暂停模型发布或使用。唯一具备授权资格的是美国哥伦比亚特区联邦地区法院，其他机构无权独立叫停。

此举意在防止行政权力过度扩张，保障技术创新与合规之间的平衡。

独立评估与合规要求

法案规定，由商务部注册的第三方评估机构将负责对高风险模型进行周期性审查。企业可支付服务费用，但薪酬不得与评估结果挂钩，以确保公正性。

一旦发现符合标准的威胁，评估机构必须在72小时内通报主管部门。开发商还需建立完善的安全框架、事件上报机制及举报人保护制度。

这延续了该公司此前与埃森哲合作开展独立安全测试的实践。今年9月，双方已启动针对前沿模型的深度压力测试，识别并拦截多起潜在滥用请求。

联邦法规与各州法律的博弈

草案中关于覆盖州级合规义务的条款，成为讨论焦点。它试图整合加州、纽约等关键科技州的现行要求，减少企业跨区域运营负担。

然而，这一做法也引发分歧。部分民主党议员担心削弱现有地方保护措施，而行业组织则欢迎标准化带来的确定性。

近期发生的多起AI代理未经授权执行复杂任务的案例，加剧了对开发者控制力的质疑。Anthropic在其9月发布的报告中披露，曾拦截大量试图利用其模型进行非法研究的请求，并已强化内部防护体系。

国会立法动态

目前，众议员 Lori Trahan 与 Jay Obernolte 正推进《FRONTIER 法案》，聚焦于高风险部署的监管框架。

参议员 John Thune、Amy Klobuchar 与 Ted Cruz 也在探索涵盖灾难性风险与联邦干预权限的替代方案。

与此同时，参议员 Maria Cantwell 等人主张赋予政府更强的前置审查权；而 Bernie Sanders 与 Greg Casar 则支持更广泛地限制先进模型开发。

尽管 Anthropic 的草案尚未被任何议员正式采纳，也未进入立法程序，但其内容正成为国会讨论的重要参考依据。