待验证50% 置信事实精确时间

一个恰好80亿参数的模型，在16 bits精度下理想化权重负载约为14.90 GiB，8 bits约7.45 GiB，4 bits约3.73 GiB。

1

来源数

50%

置信度

长期有效

时效性

2026/10/18

首次发现

来源

本地大模型显存预算：权重、KV缓存与运行余量

涉及实体

8B参数模型concept

相关事实

待验证全量微调70B模型配合AdamW优化器需要约1,129 GB显存（705.5亿参数 × 16字节/参数）。71% 相似待验证在NVIDIA L4上，bf16模型（6.32 GiB）的内存带宽理论上限约47 Token/s，而int4模型（2.85 GiB）理论上限约105 Token/s，实测最高达到131.9 Token/s。70% 相似待验证27.18 MiB约等于2270万字节，若按8比特存储，相当于约2270万个参数，仅占8B模型的0.28%。70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1057298

API

curl https://kongchang.com/api/v1/knowledge/claims/1057298

MCP

get_claim(id=1057298)