AWS 在 SageMaker AI 无服务器模型定制中支持全参数微调
AWS 博客称,Amazon SageMaker AI 的无服务器模型定制现已支持全参数微调(FFT),用户无需自行配置 GPU 或分布式训练;文中以 Qwen3-4B 在代码生成数据集上的实验对比了 FFT 与 LoRA 的效果。
核心事实
据 AWS 机器学习博客文章,Amazon SageMaker AI 的无服务器模型定制(Serverless Model Customization)现已支持全参数微调(Full Fine-Tuning,FFT)。文章称,使用该功能时用户无需自行准备 GPU、搭建集群或配置分布式训练,只需指定基础模型、数据集与超参数,计算资源分配和检查点管理由服务自动完成。文章给出的示例通过 SageMaker Python SDK 的 SFTTrainer 提交任务,并将训练类型设为 FULL。
背景与影响
文章指出,LoRA 等参数高效微调方法只更新少量参数,在任务复杂、数据规模扩大到数万条以上时,准确率会出现平台期;作者认为这一差距源于低秩更新本身的表达能力限制,而非单纯参数数量不足。FFT 则同时更新模型权重矩阵,因此更能吸收复杂的领域知识。文中以 Qwen3-4B 基础模型在 Magicoder-Evol-Instruct-110K 代码生成数据集上做监督微调实验,称在 10 万条以上训练样本时,FFT 在 LLM-as-Judge 语义正确率上达到 90.0%,并在 BLEU、ROUGE-2 等指标上领先。文章还提供了学习率、批大小、训练轮数等超参数设置示例。
限制与来源
上述数据均来自 AWS 官方博客的单组受控实验,基于特定基础模型、数据集与评测方法,不能直接外推到其他模型或任务;文章未披露定价、区域可用范围与配额信息,相关功能与费用请以 AWS 官网当前信息为准。本文为对原文的转述,未做独立验证。来源:AWS 机器学习博客,作者 Sandeep Raveesh-Babu,2026 年 11 月 18 日。