待验证70% 置信事实时间未知

K2.5的MoE架构单次推理实际激活的参数量可能只有总参数的1/8甚至更少

1

来源数

70%

置信度

长期有效

时效性

2026/5/31

首次发现

来源

Kimi K2.5全量开源：1T参数MoE架构+Agent集群能力深度解析

bilibili萌妹讲AI

涉及实体

Kimi K2.5model MoEconcept

相关事实

已验证混合专家架构MoE通过稀疏激活机制，推理时只激活模型总参数的1/8至1/479% 相似待验证MoE架构在任意时刻只有不到十分之一的参数实际参与计算，使模型在拥有大模型知识容量的同时保持小模型的推理速度和计算成本77% 相似待验证在MoE模型中每个token只激活少量Expert（通常2-4个，Top-K路由），实际计算量可能仅相当于6-7B的Dense模型76% 相似待验证MoE架构每次推理只激活Top-K个专家，总参数量远大于单次推理实际激活的参数量75% 相似待验证MoE架构在推理时仅激活一小部分专家子网络，2.4T参数模型每次推理可能仅激活约200-400亿参数75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/4325

API

curl https://kongchang.com/api/v1/knowledge/claims/4325

MCP

get_claim(id=4325)