AB
AiBoss
ニュース

AWS Batch 为 SageMaker 训练任务推出配额管理,支持团队间借调算力

AWS 发布 AWS Batch 配额管理功能,可按团队或项目划分 GPU 容量配额,并通过出借、借用与抢占策略提升闲置算力利用率,适用于 SageMaker 训练任务的排队与调度。

核心事实

AWS 在其官方博客中介绍了 AWS Batch 面向 Amazon SageMaker Training 任务的配额管理(quota management)能力。管理员可以把计算容量按团队、项目或工作负载划分为多个配额份额(quota share),每个份额包含容量上限和闲置算力的共享策略。共享策略有三种:RESERVE 表示闲置容量保留至本份额有任务到达;LEND 表示闲置容量出借给其他有任务的份额;LEND_AND_BORROW 表示既可在闲置时出借,也可在本份额有任务时借用。配额份额以虚拟队列形式嵌套在关联的任务队列中,并支持跨份额抢占与份额内基于优先级的抢占。

背景与影响

据博客介绍,AWS Batch 支持 SageMaker Training 任务后,用户可以用托管方式排队、调度和重试机器学习训练负载,无需自建基础设施。随着团队增多,共享 GPU 容量的协调成本上升,管理员需要分别建队列、调容量上限并安排任务时序。博客称,配额管理正是为回应客户「按团队或项目定义配额、自动共享闲置容量、优先运行高优先级任务」的诉求而构建,目标是提升既有算力的利用率。博客示例中,三个配额份额均以单台 ml.g5.xlarge 为容量单位,分别演示借用、仅出借和保留三种配置。

限制与来源

上述内容来自 AWS 官方博客,属于产品功能说明,未披露定价、可用区域或性能数据。配额管理需要创建包含 quotaSharePolicy 的调度策略、指定实例容量上限的服务环境,以及连接两者的 SageMaker Training 任务队列;示例使用 SageMaker Python SDK v3,并要求账号具备管理 AWS Batch 资源的权限。具体功能范围、区域支持与计费方式请以 AWS 官网当前信息为准。