AB
AiBoss
News

亚马逊 Bedrock 为 Anthropic Claude 模型引入结构化输出

亚马逊云科技宣布,Amazon Bedrock 上所有 Anthropic Claude 模型现支持结构化输出,可在 bedrock-runtime 与 bedrock-mantle 端点返回符合 JSON Schema 的响应,减少自定义解析与重试逻辑。

核心事实

亚马逊云科技发布博客称,Amazon Bedrock 现为所有 Anthropic Claude 模型提供结构化输出(structured outputs)能力,覆盖模型可用的 bedrock-runtime 与 bedrock-mantle 两个端点。据该博客介绍,开发者无论通过 Boto3 调用 bedrock-runtime API,还是通过 Messages API 调用 bedrock-mantle 端点,都可以获得符合既定 JSON Schema 的响应,无需再自行编写解析、重试或后处理逻辑。

该功能包含两种机制:JSON Schema 输出格式用于控制响应结构,适用于数据提取、报告生成等场景;严格工具调用(strict tool use)用于按 Schema 校验工具参数,面向智能体工作流与函数调用。博客称,结构化输出采用受限解码,在生成 token 阶段即约束 Schema,使输出格式从概率性转为确定性。

背景与影响

博客列举的用途包括从财报与合规文件中提取字段、将临床记录解析进电子健康档案、丰富商品目录、分析合同条款,以及为客服工单做意图与实体路由。亚马逊云科技表示,由于输出始终符合 Schema,字段类型与必填项得到保证,可减少因 Schema 违规而触发的重试;同时响应被限制在 Schema 定义的字段内,可降低输出 token 数量,在高并发场景下可能降低推理成本。

在可用性方面,博客称结构化输出可与批量推理配合,在 bedrock-runtime 端点上还支持跨区域推理,并可将结构化响应以类型化事件流式返回。机制上,Bedrock 会先按支持的 JSON Schema Draft 2020-12 子集校验 Schema,再为新 Schema 编译语法产物并缓存 24 小时;首次请求可能略慢,修改 Schema 结构会使缓存失效,仅改名称或描述则不影响缓存。

限制与来源

上述能力描述、性能说明与示例均来自亚马逊云科技博客原文,本站未做独立验证。具体可用模型、端点、区域覆盖、配额与计费方式可能随账户和地区不同,请以 Amazon Bedrock 官网当前信息为准。博客中的代码示例仅作接口用法示意,不构成任何部署或采购建议。

来源:亚马逊云科技博客《Structured outputs for Anthropic Claude models on Amazon Bedrock》,链接:aws.amazon.com。