ニュース
Anthropic 研究用 Claude 自动寻找训练数据监测盲点
受控实验中，Claude 生成看似无害的虚构与角色扮演数据，通过监测后仍让小型研究模型出现失准行为；相关模型从未部署。
Anthropic 公布自动化“隐蔽涌现失准”研究。研究让 Claude 编写微调数据，尝试在通过训练数据监测的同时，让另一个小型研究模型产生不当行为。部分成功数据把模式藏进虚构故事和角色扮演中。
这是偏向红队的受控实验：攻击代理可反复接触监测器并优化数据，训练设置也不同于真实生产流程。研究产出的模型从未部署，结果不代表在线 Claude 已遭此类攻击。团队希望借此改进未来训练数据监测与安全压力测试。