待验证95% 置信事实时间未知

FP16格式下，大模型显存需求的估算公式为：参数量 × 2 = 所需显存（GB），即每个参数以16位（2字节）浮点数存储

1

来源数

95%

置信度

长期有效

时效性

2026/5/31

首次发现

来源

大模型命名规则解析：参数量、量化格式与显存需求速查

bilibili尚书省说书人

涉及实体

相关事实

待验证以 float16 精度为基准每个参数约占 2 字节，7B 模型约需 14GB 显存/内存，70B 模型约需 140GB79% 相似已验证FP16精度下，大模型每10亿参数约需2GB显存78% 相似待验证4位量化模型所需内存（GB）的粗略估算公式为：参数量（B）× 0.5 + 278% 相似已验证一个70B参数的FP16模型大约需要140GB显存，INT8量化后约需70GB，INT4量化后约需35-40GB77% 相似待验证一个7B参数模型在FP16格式下仅模型权重就需要约14GB显存，训练总显存需求可能膨胀到50-80GB75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/4422

API

curl https://kongchang.com/api/v1/knowledge/claims/4422

MCP

get_claim(id=4422)