AB
AiBoss
News

Sam Altman呼吁前沿AI实验室制定共享安全标准

OpenAI CEO Sam Altman表示,前沿AI实验室应为模型开发和评估建立共享的失调风险、监控与安全标准,并支持统一的联邦框架和独立审计;他强调所谓放慢节奏并非停止进展。

OpenAI CEO Sam Altman呼吁前沿AI实验室建立共享的模型安全标准。他表示,美国前沿AI公司需要让公众确信其会负责任地开发能力更强的系统,并欢迎统一的联邦安全框架与独立审计思路。

Altman称,过去的Responsible Scaling Policy和Preparedness Framework更侧重已完成模型的部署,而当前还需要覆盖训练过程中的安全开发与评估工具。他举例称,OpenAI会在预计显著提升能力的前沿强化学习训练前制定明确的安全论证。

他主张行业在失调风险、监控和安全方面形成共同标准,并强调“控制节奏”不是停止进展,而是在能力提升前为对齐和监控留出空间。这些内容属于政策主张,并非已经落地的行业规则。

参考:Sam Altman公开声明