待验证50% 置信事实精确时间
GGUF 是 llama.cpp 和 Ollama 使用的量化格式，包含 Q4_K_M、Q5_K_M 等策略，后缀字母代表不同量化策略
1
来源数
50%
置信度
长期有效
时效性
2026/9/25
首次发现
来源
涉及实体
相关事实
待验证GGUF 是由 llama.cpp 项目引入的量化模型格式，Q4_K_M 表示 4-bit 量化，相比 F16 可将显存占用减少约 75%80% 相似已验证Ollama 原生支持 GGUF 格式，大多数模型已预先量化为 Q4_K_M 或 Q8_0 等规格79% 相似待验证llama.cpp是由Georgi Gerganov开发的纯C/C++推理引擎，支持Q4_0、Q4_K_M、Q5_K_M等多种量化格式74% 相似已验证llama.cpp项目将GGUF量化格式推向主流，支持从Q2_K到Q8_0等多种精度等级74% 相似待验证GGUF is the default quantization format used by Ollama, optimized specifically for CPU and hybrid inference scenarios.71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/949231API
curl https://kongchang.com/api/v1/knowledge/claims/949231MCP
get_claim(id=949231)