概念Routing Collapse
路由崩溃
MoE训练中因路由网络与专家网络冷启动形成正反馈循环，导致少数专家获得绝大多数token而多数专家未被充分训练的现象
时间轴 (近 90 天)
10月15日
路由崩溃的本质是正反馈循环：某专家因初始化微小优势获得更多token，梯度更新更频繁，参数更快适配数据分布，从而在后续路由决策中获得更高概率。
待验证50%
10月15日
对于使用MoE架构的团队，建议在训练早期就监控专家负载分布和token覆盖率，路由崩溃一旦发生后期很难通过继续训练修复。
待验证50%
10月8日
路由崩溃是混合专家与动态路由架构训练中的经典难题，路由器易陷入局部最优导致所有token被分配到同一路径
待验证50%