待验证50% 置信事实精确时间
一个70.6B模型使用GGUF Q4_K_M格式，权重体积约为39.8 GiB。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至：2027/1/12
来源
涉及实体
相关事实
待验证MiniCPM 2B的GGUF量化版本Q4_K_M模型体积仅1.56G，可在4G显存设备上流畅运行74% 相似待验证TwIL-LM 的 3B 版本在 Q4_K_M 量化下约 1.78 GiB，可以跑在 CPU 或仅 4GB 显存的设备上74% 相似待验证Qwen3-27B官方发布了GGUF格式的量化模型，最低8GB显存即可完成本地部署74% 相似待验证gemma4:26b 的 GGUF Q4_K_M 量化版模型占用约 20,072 MiB 显存，Ollama 默认上下文窗口为 32,768 tokens73% 相似待验证Q4_K_M 是 llama.cpp 社区广泛使用的 GGUF 量化格式，权重被压缩到约 4 比特，采用 k-quant 混合量化方案的中等档位，在体积与精度之间取得折中。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1025442API
curl https://kongchang.com/api/v1/knowledge/claims/1025442MCP
get_claim(id=1025442)