什么是后分块（Late Chunking）？一种让文本块嵌入保留全文上下文的检索增强方法

后分块（Late Chunking）是一种面向稠密向量检索的文本嵌入方法：它先用支持长上下文的嵌入模型对整篇长文本的全部词元做一次编码，再在 Transformer 模型之后、均值池化（mean pooling）之前把词元序列切分成块，从而得到每个块的向量表示。它要解决的问题是：传统做法先把文档切成小块再逐块编码，块向量会丢失来自相邻块的上下文信息，表示质量因此次优。

为什么重要

论文指出，许多检索场景需要返回文本中较小的片段，而基于稠密向量的检索系统往往在较短的文本段上表现更好，因为语义在嵌入中不太容易被过度压缩。正因如此，实践中常见的做法是把长文档拆成较小的块，再分别编码成向量。

这种「先切后编码」的流程有一个结构性缺陷：每个块在编码时只能看到自己，块与块之间的指代、主题延续、术语定义等上下文信息无法进入该块的向量。论文把由此产生的块嵌入描述为丢失了周围块的上下文信息，因而得到的是次优表示。对于代词指代、省略表达、跨段落的术语解释等情形，孤立编码的块向量很难在检索时被正确匹配。

后分块的意义在于，它试图在不改变「以小块为检索单元」这一前提的情况下，把整篇文档的上下文重新注入每个块的向量中。论文称，这样得到的块嵌入捕获了完整的上下文信息，在多种检索任务上取得了更优结果；同时该方法足够通用，可应用于多种长上下文嵌入模型，并且无需额外训练。

工作机制

按论文的描述，后分块的核心在于把「切块」这一步从编码之前挪到编码之后。可以拆成以下几个要点：

整篇编码：把长文本整体送入一个长上下文嵌入模型，让模型对全文所有词元（token）产生上下文相关的表示。此时每个词元的向量都已经「看过」它前后的内容。
延后切块：在 Transformer 模型输出之后，才按照预先设定的边界把词元序列划分成若干块。切块发生在池化之前，而不是编码之前。
块内池化：对每个块所覆盖的那一段词元向量做均值池化，得到该块的稠密向量。由于池化的输入已经带有全文上下文，池化结果也继承了这些上下文。
无需额外训练即可使用：论文强调该方法对多种长上下文嵌入模型通用，且不需要额外训练即可应用。
可选的专门微调：为进一步提升后分块的效果，论文还提出了一种针对嵌入模型的专门微调（fine-tuning）方法。

方法名称中的「后（late）」正是指切块相对于 Transformer 编码所处的位置：切块被推迟到模型之后、均值池化之前。这与传统流程形成对照——传统流程在进入模型之前就完成切分，每个块独立编码、独立池化。

需要说明的是，上述步骤是论文对方法的描述；论文并未在摘要中给出具体的池化实现细节、块边界选取规则或模型适配条件，这些属于原文正文讨论的范围。

典型例子

论文摘要层面给出的例子是检索场景本身：当使用者需要检索文档中较小的文本片段时，系统通常以块为检索单元。传统做法是切块后逐块编码，块向量丢失周边上下文；后分块则先编码全文、再切块池化，使每个块的向量携带全文上下文。论文称这一差异在多种检索任务上带来了更优结果。

论文列出的作者为 Michael Günther、Isabelle Mohr、Daniel James Williams、Bo Wang、Han Xiao。该论文提交于 2024 年 9 月 7 日（v1），最新修订版本 v3 于 2025 年 7 月 7 日发布，共 11 页，属 Computation and Language（cs.CL）与 Information Retrieval（cs.IR）主题。摘要中未点名具体的嵌入模型、数据集或基准名称，因此本条目不列举具体系统。

边界与常见误解

它不是一种新的检索算法。 后分块改变的是块向量的生成方式，即嵌入阶段的切块时机，而不是召回、排序或索引结构本身。它产出的仍然是普通的块级稠密向量，可以接入既有的向量检索流程。

它依赖长上下文嵌入模型。 论文明确该方法建立在长上下文嵌入模型之上：需要模型能够一次性处理整篇长文本的全部词元。若文本长度超出模型可处理的上下文范围，或所用模型并非长上下文模型，该方法的前提就不成立。论文称其通用性足以覆盖多种长上下文嵌入模型，但这属于论文的主张，而非对任意模型的保证。

「无需训练」不等于「无需代价」。 论文称该方法无需额外训练即可工作，但这指的是不必为使用该方法而重新训练模型；整篇文本一次性编码在计算与显存上的开销，论文摘要未作讨论，不应据此推断其成本低于逐块编码。

效果结论的归属要清楚。 「捕获完整上下文信息」「在多种检索任务上取得更优结果」均为该论文作者的表述，属于论文报告的结果，不宜转述为业界共识或已被独立复现的定论。

容易与「上下文检索」类做法混淆。 后分块是在嵌入计算内部调整切块位置；而通过在块文本前拼接文档摘要或周围段落来补充上下文的做法，改变的是送入模型的文本内容。两者目标相近，机制不同，不应混为一谈。

全部分类