在大模型推理系统中，单点性能瓶颈往往会拖累整体吞吐，需要在堆栈每一层消除掉队者（stragglers）。