概念Expert Parallelism
专家并行
MoE模型分布式训练中的并行策略，将不同专家子网络分配到不同GPU设备上，通过All-to-All通信实现token路由与聚合，以支持超大规模MoE模型的高效训练
核心事实
时间轴 (近 90 天)
10月6日
专家并行在路由决策产生后需要通过All-to-All通信把Token发送到对应设备再汇聚结果
待验证50%
10月1日
MoE模型中每个token只被路由到少数几个专家，产生Dispatch（分发）和Combine（合并）两个通信原语
待验证50%
9月17日
专家型智能体的本质是把某一个领域专家打造成一个数字分身
已验证75%