AB
AiBoss站
快讯

AWS 为 SageMaker AI 训练任务推出实例偏好列表

AWS 宣布为 Amazon SageMaker AI 训练任务与处理任务推出实例偏好列表功能,用户可在创建任务时按优先级最多指定五种可接受实例类型,由平台自动评估并选择首个有空闲容量的类型启动,以减少手动重试。

AWS 发布 SageMaker AI 实例偏好列表功能

据 AWS 官方博客消息,Amazon SageMaker AI 训练任务(Training Jobs)与处理任务(Processing Jobs)新增实例偏好列表(Instance preference lists)功能。用户在创建任务时,可以按优先级顺序提供最多五种可接受的实例类型;平台会按顺序评估,并在首个具备可用容量的实例类型上启动任务,无需人工干预。官方称该机制旨在减少手动重试脚本与监控逻辑带来的运维负担。

背景与影响

博客指出,在需求高峰期,按需获取特定 GPU 实例可能并不容易。当训练任务被绑定到单一实例类型而该容量暂时不可用时,团队往往需要提交多个请求或编写轮询、取消、重投的脚本,这类做法较为脆弱,且难以与预留容量方案(如 Flexible Training Plans)配合。实例偏好列表允许先评估预留容量,再回退到按需实例类型。官方描述的工作流程为:提交带有序偏好列表的任务、校验配置与资源限制、调度器在内存中扫描列表并选出首个有容量者、随即启动;若评估时均无容量,任务进入事件驱动队列,并在容量可用时自动重试,重试窗口由 MaxPendingTimeInSeconds 控制。

限制与来源

上述内容来自 AWS 官方博客的发布说明,具体支持的实例类型、区域可用性、配额与计费方式,以及 MaxPendingTimeInSeconds 的完整行为,素材中未完整给出,请以 AWS 官网当前文档与定价页面为准。本文不构成任何采购或投资建议。