据《华尔街日报》报道,特朗普政府决定限制外国访问Anthropic最强大的人工智能模型,起因是亚马逊CEO安迪·贾西的一通电话。本周四,亚马逊研究人员发现一种方法,能够诱导Anthropic的Fable 5模型返回可用于网络攻击的信息,贾西随即联系了政府高级官员。这通电话,连同至少其他五家公司的警告,引发了白宫内部的紧急应对,官员们评估威胁并联系了Anthropic CEO达里奥·阿莫德伊。据称,阿莫德伊对政府表达的担忧以及要求其自愿撤回模型的请求进行了反驳。
总统科技顾问委员会联合主席大卫·萨克斯上周六表示:“作为回应,政府发布了出口管制令。政府对此并不情愿,并对Anthropic不愿配合一项合理的安全要求(即修复越狱漏洞)感到非常意外。”
这一事件揭示了美国为何在上周五晚发布指令,迫使Anthropic撤回其新模型。据估计,Anthropic Claude每月活跃用户约18,900人。Anthropic在上周五的一篇博客中表示,他们认为美国指令源于对“非通用越狱”威胁的误解,该威胁来自一份未具名的报告。
亚马逊未确认是否曾与政府官员讨论Anthropic的模型。一位发言人表示:“作为为大量私营和公共部门客户提供服务的领先云提供商,政府就潜在安全风险征求我们的意见并不罕见。当这种情况发生时,我们不会透露这些讨论的具体细节。”Anthropic表示正在努力为其用户恢复访问权限。
萨克斯表示:“政府现在的希望是Anthropic能够解决这个安全问题。”届时出口管制将被解除,Fable将重新公开发布。“政府希望这一切尽快实现。”
这一事件也展示了美国政府按指令迅速切断对美国AI模型访问的能力,导致上周五和周六去中心化AI代币价格上涨。Bittensor(被一些人称为“AI的比特币”)的原生代币在过去24小时内飙升23.9%。Venice Token(VVV)是Venice AI(由埃里克·沃里斯创立的去中心化、无审查AI平台)的原生实用和隐私代币,上涨了16%。Near Protocol是一个构建支持去中心化AI代理经济基础设施的区块链项目,上涨了6.2%。