GB200 NVL72
GB200 NVL72是NVIDIA推出的一款高密度AI计算系统,采用Blackwell架构,将多颗GB200超级芯片(GPU与CPU组合)集成于单一机架单元中。该系统通过NVLink高速互联技术将各计算节点紧密连接,形成统一的大规模并行计算平台,主要面向大型语言模型训练、推理及高性能科学计算等密集型AI工作负载场景。
时间轴 (近 90 天)
NVIDIA GB200 NVL72 采用约 130TB/s 通信带宽的液冷机架,系统工程壁垒极高
NVIDIA推出了GB200 NVL72等机架级系统
全部知识事实 (14)
NVLink Switch的拓扑并非完全扁平,经过不同层级Switch的通信路径在延迟和有效带宽上存在差异
90%待验证Slurm支持拓扑感知作业调度功能,可用于优化GB200 NVL72系统的工作负载放置
90%待验证GB200 NVL72在FP8精度下的AI算力可达1.44 ExaFLOPS
90%待验证整个NVL72系统的总显存容量超过13TB
90%待验证传统Slurm调度器以节点为基本单位分配资源,在NVL72架构下会导致资源碎片化和通信效率下降问题
85%待验证Slurm的topology plugin可以将NVL72的NVLink拓扑信息注入调度器,实现拓扑感知的分配决策
85%待验证GB200 NVL72的72块GPU可以按照NVLink拓扑结构划分为不同粒度的块,包括9个8-GPU块、4个18-GPU块、2个36-GPU块或1个72-GPU块
85%待验证GB200 NVL72是面向超大规模AI训练和推理场景的旗舰级计算平台
85%待验证GB200 NVL72将NVLink互联从单节点内部扩展到了整个机架级别,机架内任意两块GPU之间都能通过NVLink直接通信
70%待验证GB200 NVL72中的72颗GPU通过NVLink Switch芯片实现全互联
70%待验证NVIDIA GB200 NVL72在单个机架内集成了72颗Blackwell GPU
70%待验证NVIDIA GB200 NVL72 采用约 130TB/s 通信带宽的液冷机架,系统工程壁垒极高
50%待验证NVIDIA推出了GB200 NVL72等机架级系统
50%待验证随着AI模型参数量持续膨胀,单个训练作业跨越多个NVL72机架将成为常态
75%