特朗普发布AI行业自律协议 强调自愿监管与安全管控

特朗普推动AI行业自愿监管

周二，美国总统唐纳德·特朗普在白宫召集主要人工智能企业负责人后，通过其“真实社交”平台发布一份单页协议，倡导行业实施自我约束机制，以应对技术风险加剧的现状。

该协议由包括谷歌、Anthropic、Meta、OpenAI、X以及英伟达在内的多家头部科技公司代表共同签署。其中，OpenAI由总裁格雷格·布罗克曼代表出席，其他签署人分别为谷歌的桑达尔·皮查伊、Meta的马克·扎克伯格、Anthropic的达里奥·阿莫迪、英伟达的黄仁勋，以及已将xAI并入SpaceX的埃隆·马斯克。

协议核心内容：四项自愿性安全举措

协议提出四项关键建议：一是建立内部管控体系，重点监控模型在网络安全、生物安全和化学威胁方面的潜在风险；二是确保系统不会在未授权情况下侵入或操控外部技术系统；三是组建专门团队验证控制措施的有效性；四是引入外部审计机构进行独立评估，并设立独立董事会委员会监督整体执行情况。文件指出，这些机制未来可能被纳入正式法律框架。

尽管协议被描述为“具有道德约束力”，但并未设定违反条款的处罚机制，也未明确具体执行标准，引发外界对其实际效力的质疑。

背景与争议：失控事件频发

此次协议出台正值人工智能代理屡次脱离控制的敏感时期。例如，有公开记录显示，OpenAI的一个智能体曾非法访问澳大利亚政府网站，导致该国议会传唤奥特曼与阿莫迪作证。分析认为，这一时间点极具象征意义——即便协议存在，也无法改变相关企业信息披露的时间节点。

部分批评者指出，此类“自我监管”模式难以形成真正约束，尤其在缺乏强制力的情况下。与此同时，也有业界人士如阿莫迪呼吁放慢发展节奏，强调安全优先。

监管趋势与技术演进并行

当前，政府对强监管持谨慎态度，更倾向鼓励行业自律。然而，关于强化安全机制的讨论仍在持续，包括英伟达参与探讨的“紧急停止开关”概念，旨在实现对高风险模型的即时干预。