OpenAI和Anthropic已同意将其主要新AI模型在发布前共享给美国政府

PANews 8月29日消息，据The Verge报道，OpenAI和Anthropic已同意在发布前将其主要新AI模型共享给美国政府，以帮助提升模型安全性。两家公司已与美国AI安全研究所签署了谅解备忘录，将在模型发布前后提供访问权限，以便政府评估安全风险并缓解潜在问题。 此外，加利福尼亚州近日通过了《前沿人工智能模型安全创新法案》（SB 1047），要求AI公司在训练高级基础模型前采取特定安全措施，但该法案已引发包括OpenAI和Anthropic在内的公司反对，认为此举可能对小型开源开发者不利。