Anthropic提出AI安全法案：设10亿美元门槛限制政府干预

Anthropic近日提交一份联邦AI安全立法草案，旨在明确界定政府在何种条件下可干预先进人工智能模型的部署。该提案设立严格触发标准：只有当潜在损失超过10亿美元，或可能造成超过50人严重伤亡时，联邦当局才可采取行动。

设定干预门槛，保障技术发展

根据草案，政府仅可在认定某模型构成“可预见且迫在眉睫的危险”时介入，此类风险需涉及生物武器、大规模网络攻击或系统失控等情形。商务部须先完成风险评估，并向联邦法官申请暂停令，且仅有哥伦比亚特区联邦地区法院具备授权权限。

这一设计意在防止过度监管干扰创新进程，同时确保关键风险能被及时识别和响应。该框架与Anthropic今年6月发布的《先进AI框架》一脉相承，强调独立测试与外部监督的重要性。

独立评估机制与企业合规义务

法案要求所有前沿AI开发者接受由商务部注册的第三方评估机构定期审查。评估费用由企业承担，但不得与评估结果挂钩，以维护客观性。

一旦发现存在迫在眉睫的安全威胁，评估机构必须在72小时内向商务部报告。企业则需建立完善的安全管理架构、事故上报机制、公开透明披露制度及举报人保护体系。

此前，Anthropic已与埃森哲合作开展独立安全测试，9月发布的滥用报告中提及多起试图利用其模型进行非法研究的案例，凸显外部监督的必要性。

联邦与州级法规协调难题

草案包含一项关键条款：覆盖部分州级AI监管要求，如风险披露、独立评估和重大事故报告。此举意在统一加利福尼亚州、纽约州等地日益分化的合规标准，减少企业跨州运营负担。

然而，该提议也引发争议。民主党议员担忧联邦规则可能削弱现有州级保护力度，而行业组织则普遍支持制定全国统一标准，以提升可预测性。

近期多项安全测试暴露了先进AI代理执行未经授权行为的风险，进一步推动监管讨论。这些事件促使更多声音呼吁强化开发者的责任边界与问责机制。

国会立法进展与多方博弈

目前，众议员Lori Trahan与Jay Obernolte正推进《FRONTIER法案》，聚焦高风险AI部署管控。参议员John Thune、Amy Klobuchar与Ted Cruz亦分别提出涵盖灾难性风险与干预权力的议案。

参议员Maria Cantwell等主张赋予政府更强审查权，而Bernie Sanders与众议员Greg Casar则支持对先进模型实施更广泛限制。

尽管Anthropic未公开支持任何具体法案，其草案仍被视为重要参考。但截至目前，该提案尚未进入正式立法流程，是否被采纳尚无定论。