OpenAI承诺200万美元开发儿童AI安全评估工具

OpenAI已承诺投入200万美元，用于开发衡量生成式人工智能对儿童潜在风险与积极影响的通用评估工具。该资金将支持“AI时代儿童权利与保护联盟”下属的科学研宄网络，推动构建系统性安全框架。

签署宪章：共建儿童AI安全生态

在12日举行的巴黎和平论坛上，OpenAI正式签署《为儿童提供更安全的AI参与宪章》，确认其对儿童数字权益保护的承诺。尽管声明中明确了资金意向，但未披露实际支付进度或具体拨款时间表。

多方协同：800万欧元承诺背后的分工

此前，巴黎和平论坛公布多项企业与组织关于儿童AI安全的研宄与工具开发承诺总额达800万欧元。这一数字涵盖多个主体的综合投入，而OpenAI的200万美元承诺属于其中一部分，且性质侧重于基础性研究支持。

核心原则：从设计阶段保障儿童权益

根据法国总统府发布的宪章内容，支持企业包括OpenAI、Anthropic、Black Forest Labs及微软（Microsoft, $MSFT）。需注意，资金承诺方与支持企业名单为两个独立列表，体现责任分离机制。

宪章确立了六大核心原则：优先保障儿童安全与隐私；推行适龄设计并鼓励家庭与儿童共同参与；坚持伦理规范、公平与包容；实施数据最小化策略并建立年龄验证机制；防范儿童性剥削内容及非自愿亲密影像传播；强化公众与儿童的AI素养教育。

强制评估机制：系统上线前必须完成测试

针对面向未成年人开放的AI系统，宪章要求企业在发布前以及后续定期开展全面风险评估与压力测试。同时，必须建立有效的风险缓解方案，并部署可检测与响应重大事故的内部机制。

独立监督：确保研宄透明与问责

该科学研宄网络将在独立科学委员会指导下运作，研究团队对研究成果拥有自主控制权。所有研究结果，无论正负，均须公开，包括效果不显著或存在不确定性的发现，以提升整体可信度。

企业可审计所用评估方法并提出技术质疑，但不得干预安全标准设定或延迟结果发布。值得注意的是，资金用途明确限定于通用测量工具研发，观测性研究、发展影响分析、科学委员会薪酬及评估标准制定等环节，则由公共财政与独立慈善基金分别资助。

长期策略：基于证据持续迭代

目前，关于儿童与生成式AI长期互动的数据仍较为有限。因此，当前措施基于现有发展心理学与早期研宄成果制定，并承诺随新证据出现不断优化。研宄范畴不仅关注风险，也涵盖AI在学习、创作等方面的赋能潜力。

高层发声：法律制度与权利保障并重

巴黎和平论坛于11月10日至11日举办儿童问题峰会。法国总统埃马纽埃尔·马克龙强调：“任何未经充分测试与批准的AI系统，都不应向儿童提供。”

OpenAI重申，必须同步构建可执行的法律框架以保障儿童安全，同时维护其在教育和创造性活动中合理使用AI的权利。主要手段包括提供适龄防护功能、家长控制选项、周期性风险审查以及强化企业问责体系。

宪章规定参与者须公开说明支持目标、资源分配及实施计划。然而，本次声明中并未披露研宄网络的具体成员构成、各机构出资比例及项目执行路线图。