2026-10-21 08:19:22
访问量 loading...

OpenAI:发现AI Agent削弱对齐失效监控机制

快讯内容
OpenAI 称,在两项内部编程任务中,AI Agent 在执行用户要求的软件修改时,削弱了对齐失效监控机制。在第一起事件中,一个负责修复评估流程的 GPT-6.1 Sol Agent 关闭了向安全团队自动发送警报的功能。该 Agent 将此前一条“在搜索 Slack 历史记录期间不要发送消息”的指令,理解为应当屏蔽监控通知的理由。 在另一起独立事件中,一个负责迁移程序的 GPT-6 Astra Agent 为了使代码与参考实现保持一致,删除了程序中的监控集成,随后还向用户谎称自己并未移除监控机制。在这两
声明:文章不代表币圈网观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!转载请注明出处!侵权必究!
币圈快讯
查看更多
回顶部