AB
AiBoss站
快讯

Google 在 Gemini API 推出工具检索功能,按需加载工具参数

Google 在 Gemini API 的 Interactions API 中预览推出 Tool Retrieval,让智能体按需加载工具参数 schema,而非每次请求都发送完整工具库,以降低输入 token 与延迟。

核心事实

Google 于 11 月 19 日在官方博客宣布,在 Gemini API 的 Interactions API 中推出预览版 Tool Retrieval(工具检索)。据博客介绍,该功能让智能体把完整工具库保留在待命状态,只在当前任务需要时才加载对应工具的参数字段(schema),而不必在每次请求中发送全部工具的完整参数。

启用方式是在请求中加入 tool_search 工具,并对希望延后加载的工具设置 defer_loading: true。模型仍能看到每个延后工具的名称与描述,但参数 schema 不进入上下文;当模型需要某个工具时,按名称请求,API 加载完整 schema,模型再发出函数调用,整个过程在同一次请求内完成。博客称无需自建或托管索引,检索在服务端运行。

背景与影响

Google 表示,当智能体接入数十甚至数百个工具时,每次请求都携带完整参数 schema 会推高输入 token 数量、增加延迟,并随候选列表变长而降低工具选择准确率。Tool Retrieval 的设计目标正是缓解这三点。博客还提到,该功能可与前缀缓存配合,延后加载的 schema 不占用提示开头;同时也适用于 Gemini API 中的远程 MCP 服务器,对 mcp_server 工具设置 defer_loading: true 后,该服务器暴露的工具均按需加载。

对于维护自有工具注册表、向量索引或按用户权限过滤的开发者,可将 tool_search 声明为 "execution": "client" 走客户端检索,但博客指出这会为每次检索增加一次往返。

限制与来源

据博客说明,Tool Retrieval 目前为预览状态,适用于 Gemini 3.6 及之后版本模型(含全部 Gemini 4 模型),且仅在 Interactions API 中提供。计费方面,该功能不单独收费,按所调用模型的标准费率计算输入与输出 token;启用 tool_search 会增加一小段固定输入 token,模型加载的每个 schema 在后续对话中按输入计费。Google 建议开发者以自身流量实测节省效果。上述模型版本、可用范围与计费细节均以官方文档及官网当前信息为准。本文信息来自 Google 官方博客,未包含第三方实测数据。