待验证50% 置信事实精确时间

Ollama 默认使用 Q4_K_M 等量化方案，将 31B 参数模型的显存需求从约 62GB（FP16）降低到约 20GB

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

Gemma 4开源模型本地部署教程：Ollama安装与手机端运行指南

bilibili搞机零距离-2026/6/10

相关事实

待验证llama.cpp项目使27B参数模型的显存需求从FP16约54GB降至Q4量化约16GB80% 相似部分验证QLoRA论文验证了NF4量化配合LoRA微调可在65B参数模型上将显存需求从780GB降至48GB，同时保持接近全精度微调的性能77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/47987

API

curl https://kongchang.com/api/v1/knowledge/claims/47987

MCP

get_claim(id=47987)