快讯
OpenAI 收紧防护,降低模型内部推理被提取的风险
据 the-decoder 报道,OpenAI 针对 GPT-6.2 Astra 与 GPT-6.2 Sol 加强了防止内部推理被提取的防护。内部自动化测试显示,从历史请求中提取受保护推理的攻击成功率由 54.0% 降至 0.2%,针对当前请求的攻击成功率由 22.9% 降至 0.9%。相关数据来自 OpenAI,尚未获第三方独立验证。
OpenAI 收紧模型推理防护
据 the-decoder 报道,OpenAI 已针对 GPT-6.2 Astra 与 GPT-6.2 Sol 大幅收紧防止内部推理被提取的防护措施。报道援引 OpenAI 的内部自动化测试称,从先前请求中提取受保护推理的攻击成功率,已从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%;针对当前请求的攻击成功率则从 22.9% 降至 0.9%。报道还称,OpenAI 正把部分改进同步到 GPT-6 Astra。
防护分两个层面
报道指出,这些防护在两个层面生效。在单个请求层面,系统结合了针对性训练、对消息与工具调用的输入输出过滤,以及阻止旧模型读取受保护推理的 API 限制。在应对有组织攻击方面,OpenAI 每周封禁数千至数万个账号。报道同时提到,Anthropic 也在应对系统性的蒸馏攻击,同样封禁数万个账号,并呼吁产业与政策制定者协同应对。
限制与来源
上述成功率数字均来自 OpenAI 的内部测试,报道未说明测试方法细节,也未提供第三方独立验证,具体口径以官方后续披露为准。相关防护的适用范围、可用地区与账号政策,请以 OpenAI 官网当前信息为准。本文不构成任何安全或投资建议。来源:the-decoder.com。