概念Topology-aware scheduling
拓扑感知调度
一种感知底层硬件物理拓扑结构的调度策略,通过理解GPU互联层次(节点内/跨节点/跨机架)将通信密集型任务分配到物理距离更近的硬件上,以降低通信开销、提升集群吞吐效率
时间轴 (近 90 天)
9月22日
拓扑感知调度的核心是让调度系统理解GPU之间的物理连接层次,从而将通信紧密的任务收拢到距离更近的硬件上以减少跨域流量
待验证50%
9月22日
拓扑感知调度实践中,张量并行组的 GPU 应优先放置在同一节点内,流水线阶段可跨节点但应尽量同机架,数据并行副本则可灵活分布
待验证50%