[控场AI]
产品HyperPod / Amazon SageMaker HyperPod

SageMaker HyperPod

亚马逊AWS推出的面向大规模分布式模型训练的专用基础设施服务,基于EKS集群运行,提供弹性恢复能力的持久化GPU集群,支持训练任务自动检测故障并恢复进度

时间轴 (近 90 天)

10月8日

架构支持按命名空间级别进行成本分配(cost allocation),实现跨团队的 chargeback(费用回拨)

待验证50%
10月6日

SageMaker HyperPod是AWS面向大规模模型训练设计的基础设施,底层基于EKS集群运行

待验证50%
10月6日

SageMaker HyperPod于2023年底推出,专为大规模分布式训练设计

待验证50%
10月6日

SageMaker HyperPod提供具备弹性恢复能力的持久化集群,当节点故障时系统可自动检测并恢复训练进度,无需从头重启任务

待验证50%
10月6日

SageMaker Studio现在可以直接创建、配置、启动、停止并打开运行在SageMaker HyperPod EKS集群上的SageMaker Spaces

待验证50%
10月6日

在过去,在HyperPod集群上管理交互式开发环境往往需要借助kubectl等命令行工具

待验证50%
10月6日

对于已经在使用SageMaker HyperPod EKS集群的团队,这项更新几乎没有迁移成本

待验证50%
10月6日

EKS(Elastic Kubernetes Service)是AWS托管的Kubernetes服务,HyperPod借助它来调度和管理GPU节点资源

待验证50%

全部知识事实 (8)

来源文章