已验证65% 置信事实精确时间

混合专家（MoE）架构中，总参数量是所有专家的总和，激活参数是单次前向实际参与计算的部分；显存必须能装下全部权重，但算力开销仅与激活参数相当。

3

来源数

65%

置信度

长期有效

时效性

2026/10/16

首次发现

来源

Meta开源816B巨兽Muse Spark：参数与许可证的真相

rss2026/10/16

涉及实体

混合专家（MoE）架构concept

相关事实

已验证混合专家架构MoE通过稀疏激活机制，推理时只激活模型总参数的1/8至1/478% 相似已验证超大参数规模模型通常采用MoE（混合专家）架构，每次推理只激活一部分参数而非全量计算78% 相似已验证MoE架构通过路由器为每个token动态选择Top-K个专家进行计算，使参数总量可扩展而每次推理激活参数量维持不变75% 相似已验证前沿模型常采用混合专家架构（MoE）在推理时只激活部分参数，以平衡速度与质量75% 相似已验证混合专家架构（MoE）的核心创新在于条件计算，即由门控网络动态选择少数专家参与计算而非激活全部参数74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1043563

API

curl https://kongchang.com/api/v1/knowledge/claims/1043563

MCP

get_claim(id=1043563)