待验证50% 置信事实精确时间
MoE架构中每个输入token只有一小部分专家网络被激活参与计算，由门控路由网络决定分配
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
已验证MoE架构通过多个专家网络和路由机制，在每次前向传播时只选择性激活部分专家，在保持大模型容量的同时降低计算开销77% 相似待验证在MoE架构中，FFN层被替换为多个并行的专家网络，由门控网络根据输入动态选择激活其中少数几个（通常为2个）专家74% 相似待验证MoE 架构的核心组件包括专家网络（Expert Networks）和门控路由器（Gating Router）73% 相似待验证MoE架构由Shazeer等人于2017年提出，核心思想是用路由网络动态决定每个token由哪些专家子网络处理68% 相似待验证MoE架构通常引入辅助损失函数以强制门控网络均匀分配请求，避免只路由至少数热门专家68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/893530API
curl https://kongchang.com/api/v1/knowledge/claims/893530MCP
get_claim(id=893530)