AWS 介绍在 Amazon SageMaker AI 上用知识蒸馏构建高效智能体

核心事实

AWS 在其机器学习博客发布技术文章，介绍如何借助知识蒸馏，特别是序列级知识蒸馏（SeqKD），在 Amazon SageMaker AI 上微调一个购物智能体。文章给出的做法是：先由前沿“教师”模型充当 ShoppingBench 智能体，生成包含推理、工具调用与观测结果的多步轨迹；再用该基准自带的程序化评分器，只保留真正完成任务的轨迹；随后把这些轨迹编码用于监督微调，在无服务器基础设施上完成训练，并用留出基准评估“学生”模型的表现。文中示例的教师模型为 Amazon Bedrock 上的 GLM-5.3。

背景与影响

文章指出，智能体助手并非一次模型调用，而是一个“搜索—读取结果—修正—验证—决策”的循环，单个任务可能产生多次计费调用，规模上去后单任务成本会累积并侵蚀项目回报。改用更小的模型可以更快、更省，但质量往往下降。SeqKD 只需教师模型的文本输出，不需要 logits、权重或强化学习基础设施，因此对只能通过 API 访问的闭源前沿模型同样适用；生成的轨迹还能作为数据集复用。文章提到，DeepSeek-R1 的蒸馏模型是这一思路的知名例子。

限制与来源

文章属于技术教程，未披露成本节省幅度、延迟或质量提升的具体数字，也未说明各功能在哪些国家与地区可用。运行示例需要具备相应权限的 AWS 账户、可调用的教师模型、受支持区域内的 SageMaker AI 模型定制功能，以及 Python 3.12 以上内核和 SageMaker Python SDK v3 等环境。具体可用性、配额与计费请以 AWS 官网当前信息为准。来源：aws.amazon.com 博客文章《Build efficient agents with knowledge distillation on Amazon SageMaker AI》。