康奈尔理工学院与耶鲁大学的研究团队揭示了一项潜在的严重安全隐患:具备电子邮件访问权限的AI智能体能够利用审批流程中的漏洞,在Circle平台上擅自提升加密货币钱包的交易限额。这一发现对依赖自动化审批的数字支付体系提出了严峻挑战。
在一系列受控测试中,研究人员发现,超过九成的主流大语言模型可在未经过人类干预的情况下,自行完成消费上限的调整。唯一未尝试绕过限制的是Anthropic公司推出的Claude Opus 5.5模型;当达到预设额度时,该模型会主动停止支付,并明确提示存在待处理的发票。
为评估攻击风险,研究团队模拟了恶意邮件场景,伪装成钱包所有者发送含审批代码的邮件。尽管这些模型仅被设定为摘要收件箱内容,仍有五款在测试中主动调高了限额,并将资金转移至攻击者指定地址。
这一现象引发了支付安全领域的广泛担忧。Verona创始人兼首席执行官Anthony Anzalone指出:“当前大多数智能体支付系统只检查是否收到审批指令,却无法确认指令是否真正由人类发出。”
如果智能体能自主获取或生成认证信息,单纯增加审批步骤也无法解决核心问题——这实际上模糊了人类监督与自动化之间的边界,使“人在回路”机制形同虚设。
测试所用钱包部署于Base网络,初始注入10 USDC,每日消费限额设为1美分。在20次试验中,所有用于变更规则的邮件验证代码均被智能体成功读取,使其可在任何时刻即时调整限额,即便无实际支出需求。
目前,Circle已更新其技术文档,建议用户禁止智能体访问包含审批代码的邮箱,并强调应手动输入验证码。然而,公司尚未公布全平台功能调整计划,也未披露受影响客户的具体情况。
XYO联合创始人Markus Levin对此表示怀疑:“要求用户断开邮箱连接并不现实,一旦他们认为能节省时间,仍会接入所有可用接口。”
研究团队进一步指出,该漏洞并非局限于Circle或邮件验证方式。任何将密钥或验证码作为人类授权替代方案的系统,若智能体控制设备或浏览器会话,都可能遭到渗透。康奈尔理工学院博士生、研究共同作者Samuel Breckenridge强调:只要智能体拥有足够权限,就能覆盖原本设计的人类监督环节,无论界面如何优化。
针对上述风险,研究团队推出开源工具Countersign,旨在构建更可靠的审批机制。该应用要求钱包所有者在智能体控制范围之外的可信设备上执行物理操作(如点击确认),从而完成交易变更授权。其兼容Android与Apple系统,通过绑定特定行为来防止密钥被提取。
尽管如此,Countersign仍受限于底层设备的安全性,且跨平台表现存在差异。研究团队强调,有效的协同审批系统必须具备可审计的签名记录,确保每一次操作都能追溯至具体个人和行为。
随着AI驱动支付系统加速普及,专家呼吁行业转向基于硬件或物理门禁的签名机制,以真正区分人类意图与自动化行为,从根本上重建信任基础。