研究提出面向 MCP 智能体的来源感知事实核查方法

核心事实

据 Hugging Face 博客文章介绍，一项名为 ProvenanceGuard 的研究提出面向 MCP（Model Context Protocol）智能体的「来源感知」事实核查方法。文章指出，当智能体通过 MCP 调用搜索、结构化记录、数据库等多种工具后，常见的事实性检查通常只判断某条陈述是否在汇总证据中「有支持」，却不区分支持它的是哪一个工具输出。研究将「陈述在证据池中某处为真、却被归到错误来源」的失效模式称为跨来源混淆（cross-source conflation）。ProvenanceGuard 作为生成后的验证层，保留工具输出的来源标识，依次完成陈述拆分、来源路由、支持性判断、归因比对，并给出逐条来源判定与整体放行或拦截决定。

背景与影响

文章称，随着智能体从单段检索增强生成转向多工具 MCP 配置，「这条事实究竟来自哪个来源」正成为事实性的一部分。研究在医疗智能体场景下开展测试，使用患者记录、研究文献等工具产生的真实轨迹。文章报告称，在由人类专家标注的留出数据上，专家认为应拦截的 139 条陈述中该方法拦截了 138 条；在来源可识别的陈述中，约 86% 选对了来源。文章还提到，在来源高度相似的更难测试中，其正确识别具体来源的比例约为 50.3%，说明区分相似来源仍是待改进方向。文章同时称，该方法已被用于 NVIDIA NVFlow 中面向金融智能体的可选溯源验证阶段。

限制与来源

上述数据与结论均来自该研究论文及博客自述，尚未获独立第三方确认。文中提及的模型配置、决策阈值与性能表现均为特定实验设置下的结果，换用云端模型或不同数据需要重新测试与校准。文章未说明该方法的许可证、定价、地区可用性或正式发布时间，相关功能与支持情况请以官方渠道当前信息为准。本文不构成任何投资、法律或医疗建议。来源：Hugging Face 博客文章《Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents》。