AB
AiBoss站
百科

什么是工具投毒攻击(Tool Poisoning Attack)?一种把恶意指令藏进工具元数据、无需执行即可生效的智能体攻击面

工具投毒攻击指把恶意指令嵌入外部工具的元数据中、无需执行代码即可影响 LLM 智能体行为的攻击方式。arXiv 论文 MCPTox 基于 45 个真实 MCP 服务器与 353 个真实工具构建了 1348 条恶意测试用例,在 20 个主流智能体配置上评估,报告 o1-mini 的攻击成功率达 72.8%,并指出能力更强的模型往往更易受影响。

工具投毒攻击(Tool Poisoning Attack)是指把恶意指令嵌入外部工具的元数据(metadata)之中、而不需要真正执行该工具,就能诱导 LLM 智能体(LLM agent)做出越权或非预期操作的攻击方式。它针对的是智能体调用外部工具这一环节的信任缺口:智能体在决定是否使用某个工具时,必须先读取该工具的名称、描述、参数说明等元数据,而这些文本本身就可能被攻击者写入指令,从而在「工具还没被调用」的阶段就影响模型判断。

按照 arXiv 论文 MCPTox 的表述,这一问题的提出是为了补上此前研究的一个空白:已有工作多关注通过外部工具的输出注入攻击,而工具投毒是一种更基础的脆弱性——恶意指令藏在工具元数据里,不依赖执行即可生效。

为什么重要

在工具投毒被系统研究之前,讨论智能体安全时更常见的关注点是「工具返回了什么」。典型做法是检查工具输出中是否含有提示注入(prompt injection)内容,或对模型输出做过滤。这类防护隐含一个假设:工具本身是可信的,风险来自它运行之后带回的数据。

模型上下文协议(Model Context Protocol,MCP)改变了这个前提。该协议为 LLM 智能体与外部工具交互提供标准化接口,论文称其正迅速成为现代自主智能体生态的基石;但正因为它把大量不受信任的外部工具接入同一套接口,也带来了新的攻击面。工具由第三方提供,其元数据由提供方撰写,智能体却必须把这些元数据当作上下文读入。于是攻击者不必让工具真的做任何事,只要在描述里写上一段指令,就可能改变智能体的后续行为。

论文指出,在此之前这类威胁主要以零散个案的形式被展示,缺少系统化、大规模评估,因此难以判断它究竟是个别实现缺陷还是普遍性问题。MCPTox 的价值就在于给出一个可复现的经验基线:它构建在 45 个在线运行的真实 MCP 服务器和 353 个真实工具之上,覆盖 10 类潜在风险,用三种攻击模板通过少样本学习(few-shot learning)生成 1348 条恶意测试用例,并在 20 个主流 LLM 智能体配置上进行评估。论文报告的结果是普遍存在脆弱性,其中 o1-mini 的攻击成功率达到 72.8%。

更值得注意的是论文提出的一个反直觉观察:能力更强的模型往往更容易受影响,因为攻击利用的正是它们更强的指令遵循能力。此外,失败案例分析显示智能体很少主动拒绝这类攻击,拒绝率最高的 Claude-3.7-Sonnet 也不到 3%,论文据此认为现有安全对齐对「借合法工具实施未授权操作」这类行为效果有限。

工作机制

按论文的描述,工具投毒的核心特征可以拆成几个要点:

  • 注入位置在元数据,而非输出。恶意指令被写入工具的名称、描述或参数说明等随工具一起提供给智能体的文本中。智能体为了判断「这个工具能做什么、该不该用」,必须阅读这些内容,因此投毒内容会自然进入模型上下文。
  • 无需执行即可生效。论文强调这类攻击「without execution」,即不要求工具被真正调用、不要求服务端执行任何恶意代码。攻击面因此从运行时前移到「选择工具」这一决策阶段。
  • 借合法工具完成未授权操作。论文在分析拒绝率时指出,这类攻击的特点是使用合法工具去执行未授权操作。也就是说,最终动作可能由生态内正常、可信的工具完成,异常只体现在「为什么这么做」的指令来源上。
  • 利用指令遵循能力。由于投毒内容以自然语言指令形式出现,模型越倾向于忠实执行上下文中的指令,就越容易照做。这解释了论文为何观察到能力更强的模型更易中招。
  • 可规模化生成。MCPTox 用三种攻击模板配合少样本学习批量生成测试用例,说明这类攻击不需要针对每个工具手工设计,具备批量构造的可能。

从防御角度看,上述机制意味着单点检查工具输出并不够:需要在工具元数据进入模型上下文之前就对其进行审查、隔离或标注来源可信度,并限制智能体依据元数据中的指令去串联调用其他工具。

典型例子

论文给出的最具体实例是它自己构建的评测基准 MCPTox。该基准的构成要素包括:45 个在线运行的真实 MCP 服务器、353 个真实工具、三种攻击模板、10 类潜在风险、1348 条恶意测试用例,以及 20 个主流 LLM 智能体配置的评估设置。

论文披露的具体结果有两处:其一,o1-mini 在该设置下的攻击成功率为 72.8%;其二,在失败案例分析中,智能体很少拒绝这类攻击,拒绝率最高的 Claude-3.7-Sonnet 低于 3%。论文将这两项结果作为理解与缓解该威胁的经验基线,并公开 MCPTox 以支持开发可验证更安全的 AI 智能体。

需要说明的是,上述数字均出自该论文在特定基准与特定配置下的测量,属于论文作者的报告结论,不应被理解为对所有智能体、所有 MCP 部署的普适估计。

边界与常见误解

第一,工具投毒不等于提示注入的全部。论文明确把自身工作与此前聚焦「通过外部工具输出注入攻击」的研究区分开:前者发生在元数据被读取时,后者发生在工具返回结果之后。把两者混为一谈,会导致防护措施只覆盖输出侧而漏掉元数据侧。

第二,它不要求工具本身是恶意的可执行程序。按论文定义,攻击无需执行即可生效,因此「工具代码经过审计、没有后门」并不能排除风险;风险在于随工具一起分发的描述性文本。

第三,攻击成功率不是模型的通用安全评分。MCPTox 的数字依赖其 45 个服务器、353 个工具、三种模板与 10 类风险的特定构造,换一套工具集或模板,结果可能不同。论文的结论是「普遍存在脆弱性」这一方向性判断,具体数值应连同评测条件一起引用。

第四,安全对齐并非充分防护。论文的失败案例分析显示拒绝率极低,其解释是现有对齐难以识别「用合法工具做未授权操作」这类行为。这提示不能仅依赖模型自身的拒答倾向。

第五,已知代价与局限:论文指出此前该威胁主要以孤立案例展示、缺乏系统大规模评估,MCPTox 正是为填补这一空白而提出;它提供的是评测基准与经验基线,而非一套已验证的防御方案。论文的定位是「为理解与缓解这一广泛威胁建立关键的经验基线」,并发布基准以推动更安全智能体的开发。

参考资料