Unverified50% confidenceFactExact time
稠密模型（Dense Model）指在每次推理时所有参数都参与计算的传统架构，与 MoE 等稀疏架构相对
1
Sources
50%
Confidence
Long-term
Relevance
8/30/2026
First Seen
Sources
Related Entities
Related Claims
VerifiedDense架构中模型所有参数在每次推理时都参与计算，计算成本随参数规模线性增长，以Llama系列为代表79% similarUnverified超大参数规模模型通常采用MoE（混合专家）架构，每次推理只激活一部分参数而非全量计算78% similarUnverifiedMoE 模型微调时通常需要加载全部参数及对应的优化器状态，对硬件资源的要求远超同等激活参数量的密集模型78% similarUnverified稠密架构意味着模型在推理时会激活全部270亿参数进行计算77% similarUnverified前沿模型常采用混合专家架构（MoE）在推理时只激活部分参数，以平衡速度与质量75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/823988API
curl https://kongchang.com/api/v1/knowledge/claims/823988MCP
get_claim(id=823988)