快讯
Anthropic 介绍内部自动化红队系统 Anvil，用于上线前检验防护
系统用于发现安全防护薄弱点；厂商称在其测试中优于人工红队，不等于产品已对外开放。
Anthropic 介绍内部自动化红队系统 Anvil，用于在新安全防护部署前寻找薄弱点，并帮助团队更快迭代防御。公司称，在生物安全、网络安全和防蒸馏等自有评估中，Anvil 的发现效率和攻击强度超过其对照人工红队。
上述比较来自 Anthropic 的测试与人员条件，不能泛化为任何场景都胜过人类。该系统依赖内部前沿模型访问，公告是研究与防御方法介绍，并非向公众开放的攻击产品，也不能证明所有漏洞已被消除。