待验证50% 置信事实精确时间

稠密模型（Dense Model）指在每次推理时所有参数都参与计算的传统架构，与 MoE 等稀疏架构相对

1

来源数

50%

置信度

长期有效

时效性

2026/8/30

首次发现

来源

Ornith 1.5 开源模型系列发布：9B、35B MoE、397B 三款登陆 HuggingFace

涉及实体

Dense Modelconcept MoEconcept

相关事实

已验证Dense架构中模型所有参数在每次推理时都参与计算，计算成本随参数规模线性增长，以Llama系列为代表79% 相似待验证超大参数规模模型通常采用MoE（混合专家）架构，每次推理只激活一部分参数而非全量计算78% 相似待验证MoE 模型微调时通常需要加载全部参数及对应的优化器状态，对硬件资源的要求远超同等激活参数量的密集模型78% 相似待验证稠密架构意味着模型在推理时会激活全部270亿参数进行计算77% 相似待验证前沿模型常采用混合专家架构（MoE）在推理时只激活部分参数，以平衡速度与质量75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/823988

API

curl https://kongchang.com/api/v1/knowledge/claims/823988

MCP

get_claim(id=823988)