概念Wide Expert Parallelism
宽专家并行
一种针对MoE模型的并行化部署策略，将专家横向铺开到更多设备上，使每台设备承载独立的专家权重，通过扩大设备池实现负载均衡，在专家数量多的大模型上尤为有效
时间轴 (近 90 天)
10月17日
在GPU层面，采用宽专家并行（wide-EP）时，不同GPU上承载的专家负载可能差异巨大，导致某些GPU成为瓶颈，拖慢整个批次的处理。
待验证50%
10月17日
宽专家并行（wide-EP）指将专家切分到更多GPU上（即EP规模很大），每个GPU承载的专家数量较少，可以降低单卡显存压力，但会放大负载不均衡的风险。
待验证50%