反向传播的加速幅度普遍高于前向，因为反向计算涉及的通信轮次更多、依赖关系更复杂，通信优化带来的收益在反向路径上更容易被放大。