待验证50% 置信事实精确时间

典型MoE配置下每个token仅激活全部专家中的2-4个，其余专家在该次前向传播中不参与计算

1

来源数

50%

置信度

长期有效

时效性

2026/10/7

首次发现

来源

MiniCPM-V-4.7-35B-A3B 现身 HuggingFace：MoE 多模态新动向

涉及实体

相关事实

待验证MoE典型实现中模型会从数十个专家中选取Top-2进行激活，其余专家不参与本次推理计算74% 相似待验证MoE架构在处理每个输入token时只激活一小部分专家子网络，通常为总专家数的1/8到1/1673% 相似待验证MoE 模型每次推理时只激活一小部分专家子网络，Naive-N0.5-Flash 实际推理时只有约 5% 的参数在工作70% 相似已验证MoE架构仅激活部分专家网络，通常为总参数量的15-25%68% 相似待验证MoE 模型每个 token 只被路由到少数几个专家进行计算，使总参数量大但激活参数量小67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/984022

API

curl https://kongchang.com/api/v1/knowledge/claims/984022

MCP

get_claim(id=984022)