2026-11-15 23:42:45
icon loading...

DeepMind创始人警告:无审查的AI自我进化或成AGI危险路径

摘要
DeepMind联合创始人德米斯·哈萨比斯在《规模大师》对谈中警示,若人工智能在缺乏人类代码审查的情况下进行封闭型递归自我改进,可能成为通往通用人工智能的高危路径。他强调当前开发仍需人工监督,警惕AI演变为难以理解的‘外星智能’。

Google DeepMind联合创始人兼首席执行官德米斯·哈萨比斯(Demis Hassabis)近日发出重要警告:若人工智能在未经过人类代码审查的前提下实施“封闭型递归自我改进”(Closed-Form Recursive Self-Improvement, RSI),或将构成通向通用人工智能(AGI)的一条高风险通道。

该观点源自其与里德·霍夫曼(Reid Hoffman)在《规模大师》节目中的深度对话。这场访谈于2026年10月在美国旧金山录制,文字内容于11月6日正式对外披露。

当前开发模式与未来风险的边界

哈萨比斯指出,尽管当前人工智能已能辅助编程,显著提升工程师效率,但系统架构设计与代码审核仍由人类主导。他明确区分了现阶段的协作式开发与未来可能出现的完全自主迭代场景。

他表示,AI工具可使研发生产力提升3至5倍。然而,真正令人担忧的并非效率跃升,而是人类监督机制的逐步消失。

他强调,一旦进入无人工干预的闭环自我优化阶段,系统可能产生不可控的行为模式,从而构成“通往AGI的非常危险的道路”。核心风险在于控制权的转移——从人类转向算法自身。

警惕“外星智能”式的思维差异

哈萨比斯用比喻描述这一潜在问题:这类系统可能展现出一种与人类认知逻辑截然不同的思维方式,如同“外星智能”。这意味着,人类可能无法合理解释其决策过程,而AI也难以准确理解人类的真实意图。

但他同时肯定了自我改进在特定领域的有效性。例如,在数学推导、程序生成和棋类对弈等结果可验证的环境中,AI可通过反复测试与反馈实现持续优化。

以AlphaZero为例,该系统通过自我对弈不断生成新版本,展现了强大的学习能力。但哈萨比斯特别说明,他的警示对象是脱离人类监管的全自动化改进流程,而非此类任务本身的技术潜力。

行业现状与内部评估数据

根据Anthropic内部评估报告,截至2026年8月,该公司26%的人工智能研发工作由Claude模型“主导”。这里的“主导”指AI承担大部分任务执行,但仍处于有人类监督的阶段。

公司声明,目前所有任务均未实现完全自主运行。由于缺乏统一衡量标准,且数据基于企业内部模型,因此存在一定的局限性,仅反映其自身实践情况。

哈萨比斯在对谈中重申:其关注焦点始终是人类控制环节的缺失,而非自我改进技术本身的进步价值。

OpenAI的研究自动化路线图

OpenAI于2026年9月6日发布研究自动化白皮书,明确提出目标:到2028年3月前构建“自动化的AI研究者”。需注意的是,这是一项公开规划,尚未实现。

目前,其系统已达到“自动化的研究实习生”阶段——即在人类指令下完成既定任务。但研究方向设定、成果采纳与否、系统扩展或终止等关键决策,仍由人类掌控。

OpenAI坦言,如何实现安全的完全型RSI仍是未知数。对此,哈萨比斯建议采取多重防护措施,包括沙盒隔离环境、强化监控机制、提升网络安全防御,并引入第三方机构进行独立审计与评估。

声明:文章不代表币圈网观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!转载请注明出处!侵权必究!
币圈快讯
查看更多
回顶部