News
OpenAI 披露激活分类器方法,支持生成过程中的实时安全监测
OpenAI 介绍利用模型内部激活进行逐 token 监测的分类器,可中断回复或阻止工具调用;这是一层补充防护,仍依赖已标注风险和模型适配。
OpenAI 公开激活分类器的训练与部署方法。这类轻量探针利用模型内部激活,在生成过程中逐 token 评估潜在违规行为,可暂停回复、阻止工具调用,再交由推理模型进一步审查。
公司称该层防护从 GPT-5.6 起已加入相关模型,本次是方法披露,不是所有产品今日首次启用。探针依赖有标签训练数据,只能检测训练所覆盖的风险;新基座通常需要重训,也不能替代其他监测和人工响应。