优化拓扑或采用层次化通信算法（如先机架内归约再跨机架归约）可缓解All-Reduce在分层网络中的收敛比瓶颈。