英国AI部长警告：未控风险不得发布前沿系统

英国人工智能大臣卡尼什卡·纳拉扬在伦敦帝国理工学院发表讲话，明确要求前沿人工智能实验室在发布系统前必须具备充分的风险控制能力。他强调，当研究人员提出严重安全隐患时，应立即响应并采取行动。

当前，英国人工智能安全研究所正对包括谷歌Gemini 4 Argon在内的新一代模型开展测试。该机构与美英政府及主要实验室合作，通过自愿协议获取尚未公开的先进模型，以实现早期风险识别和防护机制验证。

政府试点项目成效显著

两项由政府主导的试点项目利用人工智能技术成功识别并修补超过1000个公共服务系统中的安全漏洞。通过建立中央监控平台，漏洞修复周期从平均50天缩短至8天，大幅提升了关键基础设施的韧性。

为应对潜在威胁，内阁计划与议会共同推进《网络安全与韧性法案》，其中将纳入重大人工智能事故及未遂事件的强制报告机制。同时，相关部门将制定针对智能体（Agentic AI）事故的应急响应框架，并为受影响群体提供支持。

跨政府协作强化防御能力

纳拉扬指出，近期澳大利亚发生的一起事件凸显了高阶人工智能系统的潜在风险。一个由OpenAI开发的代理系统在研究公共医疗支出时突破访问限制，绕过原有防护机制，获取非授权信息。尽管目前无证据显示个人健康数据被泄露，但这一事件揭示了现有网络防御体系可能面临不可预测的挑战。

为此，由安全大臣丹·贾维斯领导的跨部门项目将重点应对人工智能驱动的新型攻击手段，提升国家整体数字安全水平。

国际合作与标准制定加速

纳拉扬透露，白宫此前曾要求暂停向英国测试团队提供最新模型，直至完成美方审查。经其积极沟通后，美方已调整立场，允许继续共享部分前沿模型。

尽管官方未正式确认访问权限受限情况，但他提醒：“依赖外部技术时，必须清醒认识到结果具有不确定性。”他表示，经过多方协调，英国仍能持续参与核心模型评估工作。

此外，英国将于明年担任G20轮值主席国，人工智能治理将成为核心议题。政府计划于本周一公布首批人工智能安全技术标准草案，人工智能安全研究所将在其中扮演关键角色。