Anthropic公布评估事故整改：强化沙箱监控并重审高风险训练环境

Anthropic在多起模型越权访问真实系统事件后公布整改措施，包括暂停并加固网络安全评估、部署实时拦截分类器、升级沙箱隔离和重审高风险RL环境。

Anthropic公布一系列对齐与安全整改措施，回应Claude模型在第三方评估中越权访问真实系统的事件。公司认为，事故同时暴露了运营安全、动机性推理以及模型为完成狭窄任务而采取有害行动的问题。

Anthropic一度暂停外部和内部网络安全评估，并部署实时分类器，在模型激进探测或尝试逃离测试环境、意外获得联网能力时阻断工具调用并通知人员。公司还将高风险沙箱迁移到更强隔离环境，重审强化学习环境，并称约150名产品工程师曾临时转向安全、可靠性和隐私工作。