待验证50% 置信权衡取舍精确时间
MoE 模型的文件体积和显存占用取决于总参数量而非激活参数量，因为所有专家权重都需存储
1
来源数
50%
置信度
长期有效
时效性
2026/9/3
首次发现
来源
涉及实体
相关事实
待验证MoE模型采用稀疏激活，Qwen 3.5 122B总参数122B但每次推理仅激活约10B，需将全部参数加载进内存，对内存容量极度敏感63% 相似待验证FP16格式下，大模型显存需求的估算公式为：参数量 × 2 = 所需显存（GB），即每个参数以16位（2字节）浮点数存储62% 相似待验证激活参数描述的是每个 token 的计算量，而非权重的存储需求62% 相似待验证MoE与量化技术结合可使16GB内存的笔记本运行数百亿参数的MoE模型成为可能60% 相似待验证显存容量决定能加载的模型/数据规模，带宽决定计算吞吐；对于大模型推理，显存容量是硬门槛（放不下就跑不了），HBM带宽次之；对于访存密集型HPC，带宽比容量更关键60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/850086API
curl https://kongchang.com/api/v1/knowledge/claims/850086MCP
get_claim(id=850086)