AWS 博客：用编码智能体在 SageMaker AI 上部署 Hugging Face 模型

核心事实

AWS 官方博客发布了一篇技术文章，介绍如何借助编码智能体（coding agents）在 Amazon SageMaker AI 上部署 Hugging Face 模型。文章称，用户可从 Hugging Face Skills 仓库安装六项技能，将编码智能体指向某个 Hugging Face 模型，从而获得带自动扩缩、Amazon CloudWatch 告警、来自 AWS Deep Learning Containers（DLC）目录的推理容器，以及可验证的清理路径的实时端点。文中提到，实时端点为默认选项，技能还支持 scale-to-zero 实时推理、无服务器推理、异步推理、批量转换以及 Amazon Bedrock 自定义模型导入。文章称这些技能为开源，仅使用 Python 与 AWS CLI，并可在 macOS、Linux 和 Windows 上运行。

背景与影响

文章指出，部署 Hugging Face 模型到生产环境涉及一系列决策，包括为模型架构选择服务容器、确认所在 AWS 区域的镜像标签、匹配实例类型与模型内存占用，以及配置自动扩缩和 CloudWatch 告警。作者认为，这类结构化、可重复的工作适合交给编码智能体。文章同时给出对比：在未安装技能的情况下，测试中的编码智能体最初选择了 Text Generation Inference（TGI）作为服务容器，但该区域可用的 TGI 构建早于 Qwen3 架构，无法加载模型，端点健康检查失败，智能体在多次失败后转向 vLLM；另一次针对新发布的多模态混合专家扩散模型的请求也因容器不匹配而失败。文章将原因归结为缺少最新且具体的部署知识，而非推理能力不足，并称这些知识以可编辑的技能文件形式提供。

限制与来源

上述内容来自 AWS 博客文章《Deploy Hugging Face models on Amazon SageMaker AI with coding agents》，作者为 Dario Salvati、Álvaro Bartolomé、Sanhita Sarkar 和 Qiong Zhang。文中涉及的模型、容器、区域可用性、功能支持范围与费用等信息，均以 AWS 与 Hugging Face 官方当前公布的信息为准；本文未对性能、价格或地区可用性作独立验证。相关技能与部署方式的实际效果可能随版本更新而变化，建议以官方文档为准。