待验证50% 置信事实精确时间

GPU 显存需求的经验公式是：显存约等于参数量乘以 0.5（Q4 量化）到乘以 1.0（Q8 量化），单位为 GB。

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

本地部署大模型实战：Ollama、llama.cpp 与 vLLM 深度对比

涉及实体

显存估算concept

相关事实

待验证GPU利用率（DCGM_FI_DEV_GPU_UTIL）衡量的是采样周期内至少有一个kernel在GPU上运行的时间占比74% 相似待验证在llama.cpp中，-ngl（number of GPU layers）参数可控制多少层放在GPU上，用于平衡速度和模型规模73% 相似待验证Kubernetes 默认将 GPU 视为不可分割的扩展资源，一个 Pod 请求 1 块 GPU 即独占其全部算力和显存72% 相似待验证影响 GPU/TPU 计算效率的是维度能否被 8、16、32、64 等整除以利用 Tensor Core 等专用计算单元71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1008115

API

curl https://kongchang.com/api/v1/knowledge/claims/1008115

MCP

get_claim(id=1008115)