待验证60% 置信事实精确时间

MoE架构在处理每个输入token时只激活一小部分专家子网络，通常为总专家数的1/8到1/16

2

来源数

60%

置信度

长期有效

时效性

2026/7/25

首次发现

来源

开源大模型T时代：四大厂商集体突破万亿参数

相关事实

已验证MoE架构仅激活部分专家网络，通常为总参数量的15-25%82% 相似待验证混合专家架构（MoE）每次推理只激活全部专家子网络中的一小部分，通常为10-20%80% 相似待验证MoE的8选2配置意味着8个专家中每次只激活2个，实际计算量仅为密集模型的约四分之一67% 相似待验证MoE架构每次推理仅激活少数专家，训练成本相对同等能力稠密模型大幅降低，10B激活1B相比10B稠密模型训练成本低10倍且推理更快63% 相似已验证MoE架构每次推理时通常仅激活总参数的10%-20%61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/613168

API

curl https://kongchang.com/api/v1/knowledge/claims/613168

MCP

get_claim(id=613168)