待验证50% 置信事实精确时间
MoE模型中每个token只被路由到少数几个专家，产生Dispatch（分发）和Combine（合并）两个通信原语
1
来源数
50%
置信度
长期有效
时效性
2026/10/1
首次发现
来源
涉及实体
相关事实
待验证MoE模型在处理每个token时仅由路由器动态选择少数专家子网络参与计算，其余专家保持休眠78% 相似已验证MOE架构将模型内部划分为多个专家子网络，每次推理时由门控网络动态选择少数专家参与计算，实际激活参数量远小于总参数量74% 相似待验证MoE架构将模型分割为多个专家子网络，每次推理仅激活少数专家，通讯开销随集群规模呈近似平方级增长73% 相似待验证MoE通过门控网络为每个输入Token动态路由，仅激活最相关的少数几个专家，从而打破参数规模与推理成本的线性关系73% 相似待验证MoE通过Top-K路由策略每次前向传播仅激活K个专家（通常为2-4个），实现稀疏激活以扩大模型容量而不线性增加计算量71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/963583API
curl https://kongchang.com/api/v1/knowledge/claims/963583MCP
get_claim(id=963583)