分层网络常采用机架内高带宽、机架间收敛的设计，但All-Reduce的全局通信模式会导致跨层流量占比升高，从而放大收敛比瓶颈。