亚马逊安全警报后，特朗普政府封锁Anthropic AI模型全球访问

关键要点

目录

关键要点

亚马逊首席执行官安迪·贾西在内部研究发现Anthropic的Fable 5模型具备可能助长网络入侵的能力后，向特朗普政府官员发出警告。

白宫官员要求Anthropic要么修复安全漏洞，要么将该模型撤出服务；特朗普总统最终批准了全面的出口限制措施。

为确保完全遵守新的管控规定，Anthropic终止了全体用户对Fable 5和Mythos系统的访问权限。

这家AI公司将安全问题描述为“相对基础”，并指出竞争性公共AI系统中也具备类似功能。

出口禁令可能削弱Anthropic的上市计划，同时强化OpenAI等公司的竞争地位。

公司关闭旗舰AI系统

亚马逊首席执行官安迪·贾西与包括财政部长斯科特·贝森特在内的政府官员进行了直接沟通，讨论了在Anthropic的Fable 5 AI系统中发现的安全漏洞。亚马逊内部安全团队已成功通过定向提示从该模型中提取出可能有助于实施数字攻击的信息。

美国政府援引国家安全权限，发布了一项出口管制指令，暂停任何外国公民（无论是否在美国境内，包括Anthropic的外籍员工）对Fable 5和Mythos 5的所有访问。

该模型的保护机制本就是为了防止此类信息泄露而设计的。在亚马逊向白宫人员及国家安全官员分享这些发现后，一系列高层会议被召集，以决定适当的应对措施。

政府代表向Anthropic发出最后通牒：要么解决安全缺陷，要么停止提供该模型。据报道，在与政府官员的对话中，Anthropic首席执行官达里奥·阿莫德表示不愿与联邦安全专家合作开发解决方案。

政府官员认定，实施外国人访问限制是降低潜在风险的最有效方法。特朗普总统批准了这一指令，但私下表示担忧此类措施可能阻碍人工智能的发展。

为响应联邦指令，Anthropic完全停用了Fable 5及其Mythos系统——关闭范围不仅限于外国用户，而是扩展至所有账户——以确保遵守新出台的出口法规。

该公司坚称，这些安全漏洞本质上是相对初级的。公司代表强调，许多其他商用AI平台也存在类似的信息检索能力。

网络安全专家、GreyNoise Intelligence创始人安德鲁·莫里斯审查了亚马逊的研究结果。他的评估证实，虽然Fable 5能够检测至少四种不同软件应用中的安全漏洞，但研究人员未发现该系统能够通过生成可利用漏洞的实际代码来真正利用这些漏洞。

Anthropic一直将安全协议定位为其企业使命的核心。该公司此前曾根据白宫指导意见限制了Mythos的广泛分发，并在推出新系统前与联邦AI评估团队保持合作关系。

对Anthropic未来的影响

这一事件发生在Anthropic面临尤为严峻挑战的时刻。该公司一直在为可能于今年秋季进行的首次公开募股奠定基础。

由于其旗舰模型无法使用，现有客户可能会转向其他服务提供商。OpenAI已开发了自己的网络安全AI系统，并与特朗普政府官员保持持续对话。

Anthropic与联邦当局之间的摩擦在此事件之前就已存在。国防部此前已将Anthropic列为存在安全隐患的实体，该公司目前正通过两个独立的法律程序对此认定提出异议。

国家网络总监肖恩·凯恩克罗斯和商务部长霍华德·卢特尼克都参与了最终导致访问禁令的审议。商务部对涉及敏感技术的出口限制拥有监管权。

商务部当前的限制措施禁止外国政府、企业和个人使用Fable和Mythos系统。Anthropic的研究人员中有相当一部分是国际公民，该公司称这实质上阻止了他们参与这些模型的开发工作。

白宫人工智能政策顾问大卫·萨克斯称这一限制是“不情愿地”实施的，并表示乐观地认为Anthropic能够解决根本问题，使这些模型能够恢复供公众使用。