待验证50% 置信事实精确时间
Mixtral 8x7B 总参数量约 467 亿，但每次推理只激活 2 个专家，实际计算量相当于约 130 亿参数的模型
1
来源数
50%
置信度
长期有效
时效性
2026/9/6
首次发现
来源
涉及实体
相关事实
待验证Mixtral 8x7B总参数约46.7B，每次前向传播仅激活约12.9B参数，推理计算量比同等性能密集模型降低约60%73% 相似待验证Mixtral 8x7B等MoE模型实现了接近70B模型的效果，却只需约13B模型的推理成本72% 相似已验证Mistral的Mixtral 8x7B模型通过稀疏激活机制，每次推理仅激活8个专家中的2个，以约13B参数的计算成本达到接近Llama 2 70B的性能水平70% 相似待验证根据DeepMind在2022年提出的Chinchilla缩放定律，一个700亿参数的模型需要约1.4万亿token才能达到计算最优70% 相似待验证M2.5采用混合专家架构（Mixture of Experts，MoE），每次推理只有10B参数真正参与计算，总参数量可能远超10B69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/863410API
curl https://kongchang.com/api/v1/knowledge/claims/863410MCP
get_claim(id=863410)