待验证50% 置信事实精确时间

稠密模型处理每个 token 时全部参数都参与运算，计算量与参数规模严格挂钩

1

来源数

50%

置信度

长期有效

时效性

2026/9/15

首次发现

来源

稠密模型 vs MoE：激活参数、吞吐量与选型指南

涉及实体

Dense Modelconcept

相关事实

已验证Dense架构中模型所有参数在每次推理时都参与计算，计算成本随参数规模线性增长，以Llama系列为代表79% 相似待验证稠密模型（Dense Model）指在每次推理时所有参数都参与计算的传统架构，与 MoE 等稀疏架构相对75% 相似待验证稠密架构意味着模型在推理时会激活全部270亿参数进行计算75% 相似待验证超大参数规模模型通常采用MoE（混合专家）架构，每次推理只激活一部分参数而非全量计算74% 相似待验证Token生成量通常被视为衡量大模型真实使用负载的核心指标之一73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/922942

API

curl https://kongchang.com/api/v1/knowledge/claims/922942

MCP

get_claim(id=922942)