AB
AiBoss
ニュース

谷歌在 Gemini API 预览工具检索功能,面向大型工具库

谷歌在 Gemini API 的 Interactions API 中预览 Tool Retrieval 功能,允许智能体按需加载工具参数 schema,而非在每次请求中携带全部定义,以降低大型工具库的 token 开销。

核心事实

据 MarkTechPost 报道,谷歌已在 Gemini API 的 Interactions API 中推出 Tool Retrieval 功能,目前处于预览阶段(v1beta)。该功能允许智能体保留一个大型工具库,但不在每次提示中发送全部参数 schema,只在任务需要某个工具时才加载对应 schema。开发者需在 tools 数组中添加 {"type": "tool_search"},并对需要延迟加载的函数设置 defer_loading: true。模型请求工具时,响应依次包含 tool_search_call、tool_search_result 与 function_call 三步,前两步由 API 自行完成,应用只需执行最终的函数调用。

背景与影响

谷歌文档指出,数十个函数声明可能在每次请求中消耗数万 token。该功能提供服务端与客户端两种检索模式:服务端为默认模式,由 Gemini 执行搜索,无需自建索引;客户端通过 "execution": "client" 使用自有注册表或权限过滤,每次搜索增加一次往返。两种模式不能在同一请求中混用,每个请求仅允许一个 tool_search 条目。对 mcp_server 条目设置 defer_loading 可延迟该服务器暴露的全部工具。谷歌建议工具数量稳定在 20 个以下时采用静态加载。

限制与来源

该功能没有单独费用,token 按模型标准输入、缓存与输出费率计费;每次服务端搜索会触发一次基于完整上下文的额外模型调用,已加载的 schema 在后续对话中持续按输入计费,且无法卸载。谷歌未公布节省数据,也未说明延迟工具数量上限。报道同时对比了 Anthropic 与 OpenAI 的类似功能,相关数字均为各自自报测试结果,不具可比性。功能可用范围与计费细节以谷歌官网当前信息为准。来源:MarkTechPost。