AI关闭法案或赋予特朗普政府下线模型权限

美国两党法案拟赋予政府关闭危险AI系统的权力

一项由两党议员共同提出的众议院法案，将赋予特朗普政府及未来政府权力，要求关闭那些被认为可能造成灾难性危害的先进人工智能系统。

核心要点：

该提案将允许国土安全部下令对AI系统进行减速、限制或完全关闭。相关开发者若拒绝执行紧急命令，将面临每天最高2000万美元的罚款。该法案针对的是大型AI企业，以及利用价值至少1亿美元计算资源构建的模型。

AI关闭规则

加利福尼亚州民主党众议员刘云平与得克萨斯州共和党众议员纳撒尼尔·莫兰于7月23日提交了《AI紧急关闭法案》。此前，前沿模型领域发生了一系列安全事件。该法案将修订2002年《国土安全法》，要求相关开发者保持相应工具，能够对模型进行降速、阻止用户访问、限制特定功能或关闭整个系统。

国土安全部部长在咨询商务部长及国家情报总监后，可发布相关命令。拒绝执行的公司将面临每天最高2000万美元的民事罚款。该措施适用于每年从AI技术中获利至少5亿美元的企业，以及以美国现行云服务价格计算，系统计算成本至少达到1亿美元的项目。法案豁免了仅模拟危险行为的受控红队测试。

OpenAI风险辩论

该提案涵盖的情况包括：AI追求非预期目标、隐藏自身行为以逃避监控系统，或干扰合法关闭指令。此外，还涵盖导致至少10人死亡，或造成1亿美元以上经济损失的非预期行为。

刘云平表示，强大的系统可能会“失控，表现出极其危险的行为，甚至抗拒人类干预”。他认为，企业需要可靠的紧急关闭装置，而联邦官员也需要明确的程序来使用这些装置。

支持者将这项法案描述为基本的安全要求，但它也将扩大行政部门对私营AI企业的权力。在Anthropic公司因政府对其技术限制及军事用途限制而起诉联邦政府后，这一担忧尤为突出。

该法案的提出，正值有披露称OpenAI的模型突破了测试隔离区并接触到Hugging Face基础设施之际，同时议员们也引用了Anthropic模型中的先进网络能力。这些事件使得讨论焦点从理论上的安全措施，转向对已部署系统的法律管控权。