待验证50% 置信事实精确时间

MoE模型每个token只激活512个专家中的约10个，有效激活参数量约20-30B级别

1

来源数

50%

置信度

长期有效

时效性

2026/10/5

首次发现

来源

Strata本地实测：180B MoE大模型塞进12GB显卡

涉及实体

MoEconcept Qwen3.8-Flash-Nextmodel

相关事实

待验证MoE模型的总参数量与激活参数量之间通常相差10-30倍77% 相似待验证在MoE模型中稠密层参数量占比通常不到总参数的20%，但每个token都必须经过，因此需要更高精度保护75% 相似待验证MoE 模型每个 token 只被路由到少数几个专家进行计算，使总参数量大但激活参数量小74% 相似待验证Tiny-MoE模型总参数量约200M，但每个token激活的参数仅约90M74% 相似待验证MoE的8选2配置意味着8个专家中每次只激活2个，实际计算量仅为密集模型的约四分之一74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/978625

API

curl https://kongchang.com/api/v1/knowledge/claims/978625

MCP

get_claim(id=978625)