待验证50% 置信事实精确时间
BF16精度下每个模型参数需要2字节存储。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
已验证1750亿参数模型仅模型权重（BF16精度）就需350GB存储，Adam优化器需维护一阶矩和二阶矩两份状态，合计超过1TB76% 相似待验证FP16格式下，大模型显存需求的估算公式为：参数量 × 2 = 所需显存（GB），即每个参数以16位（2字节）浮点数存储76% 相似已验证以 float16 精度为基准每个参数约占 2 字节，7B 模型约需 14GB 显存/内存，70B 模型约需 140GB74% 相似待验证在BF16下权重更新每个参数占2字节，对于数百亿参数的大模型单次权重更新原始数据量可达数十GB71% 相似待验证推理1T参数的MoE模型即便采用BF16精度减半存储，也需要数百GB显存，远超消费级GPU承载上限70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1058473API
curl https://kongchang.com/api/v1/knowledge/claims/1058473MCP
get_claim(id=1058473)