待验证50% 置信解决方案精确时间
推测解码中draft模型参数量通常约为目标模型的1/10到1/5,候选数k通常为4-8
1
来源数
50%
置信度
长期有效
时效性
2026/9/8
首次发现
来源
涉及实体
相关事实
待验证在MoE模型中每个token只激活少量Expert（通常2-4个，Top-K路由），实际计算量可能仅相当于6-7B的Dense模型72% 相似待验证MoE模型中'35B'指总参数量，每个token只激活少量Expert（通常2-4个），实际计算量可能仅相当于6-7B的Dense模型71% 相似待验证2.4万亿参数模型在BF16精度下考虑KV Cache和激活值后实际约需1.4-1.5TB显存71% 相似待验证端侧可运行的大语言模型参数规模通常在1B至13B之间，远小于云端的GPT-4或Claude等数千亿参数模型68% 相似待验证LFM2.5-8B-A1B总参数量为8B，推理时仅激活1.5B参数67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/880306API
curl https://kongchang.com/api/v1/knowledge/claims/880306MCP
get_claim(id=880306)