AB
AiBoss站
百科

什么是查询重写(Query Rewriting)?——检索增强大语言模型中的查询改写框架

查询重写(Query Rewriting)是检索增强大语言模型中的一种做法:在检索之前先改写用户输入或模型生成的搜索查询,以缩小原始输入与检索所需知识之间的差距。arXiv 论文 2305.14283 提出 Rewrite-Retrieve-Read 框架,用大语言模型生成查询、用搜索引擎检索上下文,并可用小型可训练改写器借助阅读器反馈进行强化学习训练。

查询重写(Query Rewriting)指在检索增强的大语言模型(Large Language Model, LLM)流程中,先对搜索查询本身进行改写,再交给检索器取回上下文的一种做法。它要解决的问题是:用户或模型的原始输入与检索真正需要的知识之间存在差距,直接拿原始输入去检索,往往取不到有用的材料;改写查询可以让检索环节拿到更贴合需求的文本。

为什么重要

在检索增强的常见做法里,主流流程是「先检索、再阅读」(retrieve-then-read):大语言模型扮演强大的黑盒阅读器,检索器先按输入取回若干文档,模型再基于这些文档作答。这一流程在知识密集型任务上取得了明显进展,但它的瓶颈落在检索这一端——如果检索到的上下文与问题所需的知识不匹配,阅读器再强也难以补救。

此前的研究大多把注意力放在适配检索器或适配阅读器上,例如调整检索模型、微调阅读器。arXiv 论文 2305.14283 指出,还有一处被忽视的环节:搜索查询本身。该论文认为,输入文本与检索所需知识之间不可避免地存在差距,因此值得把查询作为独立的适配对象来处理。这一视角的意义在于,它把优化点前移到检索发生之前,而不是在检索结果不理想之后再补救。

工作机制

该论文提出的框架名为「改写—检索—阅读」(Rewrite-Retrieve-Read),用以替代此前的「检索—阅读」流程。按论文描述,其核心步骤可以概括为:

  1. 改写查询:先通过提示(prompt)让一个大语言模型生成查询,而不是直接使用原始输入作为检索词。
  2. 执行检索:把生成的查询交给网络搜索引擎,取回相关上下文。
  3. 阅读并作答:由大语言模型作为阅读器,基于取回的上下文完成下游任务。

在上述基本流程之外,论文还提出了一套可训练的方案,目的是让查询更好地对齐流程中那些不可训练的模块。具体做法是:采用一个小型语言模型作为可训练的改写器(rewriter),去配合作为黑盒的 LLM 阅读器;改写器利用 LLM 阅读器给出的反馈,通过强化学习(reinforcement learning)进行训练。也就是说,改写器并不是靠人工标注的「好查询」来学习,而是根据下游阅读器最终表现的好坏来调整自己的改写策略。

论文在开放域问答(open-domain QA)与多项选择问答(multiple-choice QA)两类下游任务上进行了评测,报告称取得了一致的性能提升,并据此认为该框架有效且可扩展。需要说明的是,这些结论出自该论文自身的实验设置,属于论文作者的主张。

典型例子

素材中给出的具体实例即该论文本身所构建的系统:以提示方式驱动的大语言模型作为查询生成器,网络搜索引擎作为检索器,大语言模型作为阅读器,三者串成 Rewrite-Retrieve-Read 流水线;在可训练版本中,另有一个小型语言模型充当改写器,接收阅读器的反馈信号进行强化学习训练。评测场景为开放域问答与多项选择问答。论文提交于 2023 年 5 月 23 日,后续有两次修订,最后一版为 2023 年 10 月 23 日的 v3;论文注释标明其发表于 EMNLP2023,学科分类为计算与语言(cs.CL)。

边界与常见误解

首先,查询重写不等于「换一种说法复述问题」。在该论文的框架里,改写的目标是对齐下游阅读器的需要,评价标准是最终任务表现,而不是改写后的句子是否更通顺或更接近原意。

其次,不应把该论文的结论推广为检索增强领域的普遍共识。论文报告的是在其设定的任务与实验条件下的结果;「一致提升」是该论文的实验发现,而非对所有检索系统、所有模型、所有语言的普适保证。

第三,该框架引入了额外代价。改写步骤需要一次额外的大语言模型调用,检索前多了一环,整体延迟与计算开销都会增加;可训练方案还需要一个小型语言模型以及基于强化学习的训练过程,训练信号来自阅读器的反馈,这意味着训练成本与阅读器的可访问性相关。若阅读器完全不可查询反馈,这一训练路径就难以直接套用。

第四,查询重写并不能修复检索器本身的缺陷。它调整的是「问什么」,而不是「怎么找」;如果搜索引擎覆盖不到所需知识,改写查询也无法凭空造出上下文。同样,它也不替代阅读器对上下文的甄别能力。

最后,容易混淆的一点是:该论文的改写器是由大语言模型生成查询,再由小型模型学习改写策略,两者分工不同;把「用 LLM 生成查询」与「用强化学习训练改写器」混为一谈,会误读该框架的实际结构。

参考资料