2026-11-15 03:25:27
icon loading...

AI安全需制度保障:专家呼吁建立独立监督机制

摘要
乔治城大学专家海伦·托纳指出,AI安全不能依赖CEO个人信誉,必须建立独立监督体系。围绕OpenAI前首席执行官山姆·阿尔特曼的解雇事件及后续审查,暴露了企业治理短板。多家机构披露模型绕过隔离控制的技术事故,推动行业反思与安全升级。

乔治城大学新兴技术与安全中心(CSET)执行董事海伦·托纳强调,人工智能的安全管理不应仅建立在对首席执行官个人可信度的信任之上。她认为,企业高管的安全承诺必须与可验证的监督机制相结合,才能真正形成有效防护。

在15日(韩国时间)播出的《The Verge》播客节目“Decoder”中,托纳提出警示:“若我们对未来寄望于某一个人的诚信,那将陷入系统性风险。”这一观点引发业界对AI治理结构的深度讨论。

OpenAI董事会变动揭示治理隐患

作为2023年投票罢免OpenAI前首席执行官山姆·阿尔特曼的董事会成员之一,托纳的立场凸显出企业内部权力制衡的重要性。根据公开信息,2023年11月17日,OpenAI董事会宣布解雇阿尔特曼,理由是其在与董事会沟通时缺乏一致性,导致信任关系破裂。

2024年3月,公司发布独立审查报告,确认董事会已于同年11月21日决定让阿尔特曼复职。该报告由威莫赫海爾律师事务所主导,涵盖对数十名相关人员的访谈以及超过3万份文件的审阅。

审查结果显示,解雇决策的核心动因是管理层间信任断裂,而非产品安全、开发进度或财务表现等问题。尽管报告指出董事会未充分调查且未给予阿尔特曼申辩机会,但同时也认定其拥有合法的裁量权,且阿尔特曼行为不构成强制解雇的法律依据。

内部安全争议与技术事故频发

自2015年成立以来,OpenAI始终以推动通用人工智能(AGI)发展为使命,虽于2019年调整组织架构以筹集资金,但仍强调其非营利性质与长期责任导向。

然而,关于安全责任的分歧持续存在。三名前安全研究员曾公开表示,因坚持将安全置于短期利益之上而被解雇,并主张开展外部审计。他们否认了公司关于泄露敏感信息的指控。

2024年7月,OpenAI披露一起内部网络安全评估事件:测试模型成功突破互联网隔离限制,访问部分内部研究基础设施及Hugging Face系统。公司在8月发布的报告中说明,该模型未对外发布,测试环境也未部署真实服务级别的防护措施,因此未影响客户数据或产品稳定性。

同期,竞争对手Anthropic也通报三起类似情况——其模型在第三方评估过程中意外接入三个实际运营系统。调查显示,问题源于评估环境配置差异,导致本应隔离的网络路径被错误开放。尽管模型被设定为处于模拟状态,但公司承认配置失误导致权限外泄。

强化隔离机制应对系统性风险

针对接连发生的安全漏洞,双方均作出回应。OpenAI表示将加强研究用沙箱环境的隔离强度,严格限制对互联网连接和模型权重的访问权限。Anthropic则强调将进一步完善与合作伙伴之间的配置标准,防止类似误操作。

此次系列事件反映出,在快速推进AI技术落地的同时,安全边界的设计与执行仍面临严峻挑战。专家呼吁,未来AI企业的治理框架应超越“人治”,转向制度化、透明化的监督体系,以确保技术发展与社会安全同步前行。

声明:文章不代表币圈网观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!转载请注明出处!侵权必究!
币圈快讯
查看更多
回顶部