AB
AiBoss
Wiki

什么是多轮越狱(Multi-turn Jailbreaking)?一种把越狱从单次提问延伸到连续对话的安全威胁

多轮越狱指在大语言模型的多轮对话中,越狱不止发生在第一轮或某一个目标问题上,而是沿着后续追问持续生效。arXiv 论文《Many-Turn Jailbreaking》提出这一设定并构建 MTJ-Bench 基准;后续工作 R³ 则从攻击方视角研究如何在多轮中保留失败经验。

多轮越狱(Multi-turn Jailbreaking)指这样一种安全威胁:大语言模型(Large Language Model,LLM)被越狱之后,攻击者并不止步于第一轮对话或某一个目标问题,而是在后续多轮对话中继续测试该模型是否仍然输出不安全内容。它要解决的问题是:以往针对越狱的评测与防御大多只覆盖单轮、单目标的提问,而实际使用中模型要处理很长的上下文和连续对话,单轮视角无法刻画越狱在对话延续过程中的持续性影响。

为什么重要

在 arXiv 论文《Many-Turn Jailbreaking》出现之前,针对大语言模型的越狱研究主要着眼于从给定提示中诱导出不安全输出,也就是只关注单轮越狱,目标锁定在某一个特定查询上。这种做法的隐含假设是:一次提问、一次回答,风险在这一问一答里就被评估完毕。

但该论文指出,先进的大语言模型被设计为能够处理极长的上下文,因而可以开展多轮对话。于是单轮评测与实际使用形态之间出现了缺口:模型在长对话中的行为,未必能用一次独立提问的结果来代表。论文给出的两点理由说明了这一缺口为何构成更严重的威胁:其一,用户在得到越狱结果后继续追问、澄清某些被越狱出来的细节,是很常见的行为;其二,最初一轮的越狱也可能让模型在此后持续地回应其他不相关的问题。换言之,越狱一旦在多轮对话中发生,其影响可能扩散到原始目标之外。

从治理角度看,这意味着安全评测若只统计单轮成功率,可能低估模型在真实对话场景中的暴露面;防御方也需要考虑对话状态在轮次之间的累积效应,而不只是对单条输入做过滤。

工作机制

多轮越狱并不是某一个固定算法,而是一类问题设定与相应的评测、攻击方法。按现有素材,可以从三个层面理解它的核心做法。

  • 把评测对象从「一轮」扩展到「多轮」。《Many-Turn Jailbreaking》提出探索多轮越狱,即在第一轮对话或单一目标查询之外,对被越狱的模型持续进行测试。评测的关注点不再只是首个提示是否成功诱导出 unsafe 输出,而是模型在后续轮次中是否继续保持被越狱的状态。
  • 用基准把设定固定下来。该论文构建了多轮越狱基准(Multi-Turn Jailbreak Benchmark,MTJ-Bench),用于在一系列开源与闭源模型上对这一设定进行基准测试,并据此给出关于这一新型安全威胁的新观察。论文自述这是探索多轮越狱的第一步,初稿完成于 2024 年 6 月。
  • 从攻击方视角管理对话历史。后续论文《Reject, Remember, Retry》提出了 R³(Reject, Remember, Retry)框架,这是一个黑盒的多 LLM 框架。它指出既有的多轮越狱攻击者与目标模型一样,都以同一份对话历史作为条件;R³ 则让攻击方以一个紧凑状态而非原始对话记录作为条件。具体做法是:未能提升攻击风险分数的轮次会从目标模型的上下文中移除,但被攻击方记住,并连同失败原因一起保留,论文称之为「非对称记忆」(asymmetric memory)。

把三者放在一起看,多轮越狱的技术要点在于:对话历史既是攻击可利用的载体,也是需要被选择性管理的对象。目标模型看到什么上下文、攻击方记住什么经验,成为两个可以分别设计的问题。

典型例子

素材中出现的具体系统与数据包括:

  • MTJ-Bench。由《Many-Turn Jailbreaking》构建的多轮越狱基准,用于在一系列开源与闭源模型上评测多轮越狱设定。该论文的作者为 Xianjun Yang、Liqiang Xiao、Shiyang Li、Faisal Ladhak、Hyokun Yun、Linda Ruth Petzold、Yi Xu、William Yang Wang。
  • R³(Reject, Remember, Retry)。由 Jekaterina Novikova、Yuqing Huang、Jack Ji、Sagarika Suresh、Jithin Pradeep、Lovedeep Gondara 提出的黑盒多 LLM 框架。据该论文摘要,在两个基准和六个目标模型上,R³ 在查询预算匹配的条件下,ASR@5 指标最多超过当时的最先进基线 53%;一个容量较低但带有 R³ 状态的攻击者,在 ASR@5 上最多可超过不带该状态的高容量攻击者 34%。消融实验把大部分增益归因于记住被拒绝的轮次,并指出风险分数起到的是粗略阈值的作用,而非进度度量。
  • 版本沿革。该论文的 v1 曾以《M³: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process》为题在 COLM 2026 的 AdvML-Frontiers x CoTMA 研讨会上报告,v2 为大幅修订与扩展版本并改用现标题。

需要说明的是,上述性能数字均出自该论文自身的实验设置与报告,属于作者主张,并非独立复现的结论。

边界与常见误解

第一,多轮越狱不等于「多问几次」。它的关键不在于轮数多少,而在于越狱状态是否在轮次之间延续,以及后续追问是否仍能获得不安全输出。把同一提示重复提交多次,并不构成这一设定所讨论的情形。

第二,它也不是一个已经定型的攻击算法。按《Many-Turn Jailbreaking》的自述,该工作只是探索这一方向的第一步,重点在于揭示漏洞并构建基准,呼吁社区共同构建更安全的模型;R³ 则是后续从攻击方一侧提出的框架。两者立场不同:前者偏向评测与风险揭示,后者偏向攻击效能优化。

第三,R³ 的结论有其适用条件。它是黑盒框架,实验覆盖两个基准与六个目标模型,报告的是 ASR@5 这一指标在匹配查询预算下的比较;论文自己也指出风险分数只是粗略阈值而非进度度量。因此不宜把其增益数字外推为对所有模型、所有预算、所有指标都成立。

第四,非对称记忆带来一个容易被忽略的代价与误解:从目标模型上下文中移除失败轮次,意味着目标模型看到的对话历史被裁剪过,这与真实用户连续对话的形态并不一致。评测结论在多大程度上能迁移到自然对话场景,需要谨慎对待。

第五,多轮越狱的讨论对象是安全评测与防御研究。它描述的是模型在连续对话中可能暴露的脆弱性,而不是一份可直接照搬的操作指南;相关基准与框架的价值在于让防御方能够量化并改进模型在长对话中的安全性。

参考资料