什么是归因图（Attribution Graph）？一种刻画大语言模型内部推理步骤的有向图
归因图（Attribution Graph）是一种用于解释大语言模型推理过程的有向图结构：它把模型生成的每个 token 与提示词以及此前所有生成步骤之间的影响关系量化成边，从而让「模型为什么这样输出」可以被追溯、可视化和干预。arXiv 论文 CAGE 框架与 Anthropic 的开源电路追踪工具都围绕这一概念展开。
归因图（Attribution Graph）是一种用于解释大语言模型（Large Language Model, LLM）推理过程的有向图：图中的节点对应提示词与模型逐步生成的各个单元，边则量化某一步对后续生成的影响强度。它要解决的问题是——大语言模型能力很强，但内部推理不透明，仅把最终输出直接归因到输入提示词，会丢掉生成步骤之间的相互影响，导致解释不完整。
为什么重要
在归因图出现之前，解释自回归语言模型行为的主流做法是「上下文归因（context attribution）」：给输入提示词中的各个片段分配贡献分数，看哪些词对最终输出影响最大。这类方法在计算机视觉模型的决策解释中已被证明有效，也被迁移到语言模型上。
但 arXiv 论文《Explaining the Reasoning of Large Language Models Using Attribution Graphs》指出，现有上下文归因存在一个结构性缺陷：它把生成的 token 直接与提示词关联，在这一过程中丢弃了生成步骤之间的相互影响，因此给出的解释是不完整的。对于多步推理这类行为，模型中间生成的 token 会显著影响后续 token，忽略这条链路就无法说明推理是如何一步步展开的。
从安全与信任的角度看，这一问题同样关键。Anthropic 在官方研究文档中表示，其目标是让归因图「部分地」揭示模型为决定某个特定输出而在内部走过的步骤；该公司首席执行官 Dario Amodei 也曾撰文指出，目前对 AI 内部运作的理解远远落后于 AI 能力的进展。归因图正是为缩小这一差距而提出的工具形态。
工作机制
根据 arXiv 论文，作者提出了 Context Attribution via Graph Explanations（CAGE）框架，其核心就是构造归因图。可以把做法拆成以下几个要点：
- 建图对象：归因图是一个有向图，用来量化每一次生成同时受到提示词和所有先前生成内容的影响。也就是说，节点不只包含输入，还包含生成序列中的中间产物。
- 两条必须保持的性质：论文明确要求图的构造保留因果性（causality）与行随机性（row stochasticity）。前者保证边表达的是影响方向而非单纯相关；后者约束从一个节点流出的贡献分配方式，使贡献可以在图上被一致地汇总。
- 由路径边际化得到归因：在归因图建好之后，上下文归因可以通过沿图中的路径对中间贡献做边际化（marginalizing）来计算。这样，一个生成 token 对最终输出的影响就不再是「直接连到提示词」的一条边，而是沿途各段影响的累积。
- 效果声明：论文称，在多个模型、数据集、指标和方法上，CAGE 提升了上下文归因的忠实度（faithfulness），平均增益最高可达 40%。这是该论文报告的结果，属于作者自身的实验结论。
另一条技术路线来自 Anthropic 的官方文档。其开源方法同样以生成归因图为核心，但落点在「电路追踪（circuit tracing）」：通过生成归因图来追踪受支持模型上的电路，并在交互式前端中可视化、标注和分享这些图。该文档还说明，用户可以通过修改特征值并观察模型输出如何变化来检验假设。这一路线依赖开放权重模型以及相关的转码器（transcoder）等组件。
典型例子
素材中出现的具体用法与系统包括：
- CAGE 框架：arXiv 论文提出的归因图构造与归因计算方法，用于解释大语言模型的推理，并在多模型、多数据集上评估上下文归因的忠实度。
- Anthropic 的开源电路追踪工具：官方文档称，该开源库支持在流行的开放权重模型上生成归因图，并配有由 Neuronpedia 托管的前端，可交互式探索图。该项目由 Anthropic Fellows 项目参与者主导，并与 Decode Research 合作完成。
- Gemma-2-2b 与 Llama-3.2-1b：文档提到，团队已用这些工具研究多步推理和多语言表示等行为，示例见其演示笔记本；其中 Gemma 的图基于 GemmaScope 项目中训练的转码器。
- Neuronpedia 界面：文档称用户可以访问该界面，为自己选择的提示词生成并查看归因图。
边界与常见误解
首先，归因图不等于对模型内部机制的完整还原。Anthropic 的文档明确使用「部分地揭示」这一措辞，说明图所呈现的只是模型决策步骤的一部分，而非全部计算过程。
其次，不要把归因图与普通的注意力可视化或输入显著性图混为一谈。按 arXiv 论文的论述，后者式的上下文归因把生成 token 直接连回提示词，恰恰是归因图试图修正的不完整解释；归因图的关键差异在于把生成步骤之间的影响也纳入图中。
第三，适用条件有限制。Anthropic 文档所述的开源库面向「受支持的开放权重模型」，其 Gemma 图依赖 GemmaScope 的转码器；这意味着该方法并非对任意闭源模型开箱即用。论文报告的「平均增益最高 40%」是在其设定的模型、数据集、指标与方法组合下测得的结果，不能外推为所有场景的普遍提升。
第四，归因图本身是一种解释产物，其可信度取决于建图假设（如因果性与行随机性的约束方式）以及底层特征分解的质量。把图上的边直接当作「模型真实的因果通路」是一种过度解读；更稳妥的用法是把它当作可检验的假设来源——这也正是 Anthropic 文档强调「修改特征值、观察输出变化」这一验证环节的原因。
最后需要区分两条来源不同的工作：CAGE 是 arXiv 论文提出的框架，其贡献声明以论文为准；Anthropic 的开源工具是工程与产品层面的发布，其能力描述以官方文档为准。两者都围绕归因图这一概念，但不应把其中一方的说法当作整个领域的共识。