已验证80% 置信事实精确时间

以 float16 精度为基准每个参数约占 2 字节，7B 模型约需 14GB 显存/内存，70B 模型约需 140GB

4

来源数

80%

置信度

长期有效

时效性

2026/7/22

首次发现

来源

Ollama+Dify+DeepSeek本地企业级知识库搭建全指南

相关事实

待验证1750亿参数模型仅模型权重（BF16精度）就需350GB存储，Adam优化器需维护一阶矩和二阶矩两份状态，合计超过1TB82% 相似待验证FP16格式下，大模型显存需求的估算公式为：参数量 × 2 = 所需显存（GB），即每个参数以16位（2字节）浮点数存储79% 相似待验证当前主流移动设备通常拥有6-16GB内存（可供模型使用约3-8GB），端侧可流畅运行的模型大小通常在1B到8B参数之间，4位量化后约需2-5GB内存75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/592778

API

curl https://kongchang.com/api/v1/knowledge/claims/592778

MCP

get_claim(id=592778)