待验证50% 置信事实精确时间
Q4_K_M 是 llama.cpp 生态中的混合量化格式，对精度敏感的层保留较高精度，其余层使用 4-bit，是社区最常见的量化发布格式之一
1
来源数
50%
置信度
长期有效
时效性
2026/10/1
首次发现
来源
涉及实体
相关事实
待验证Q4_K_M是llama.cpp项目引入的一种混合量化策略，对更敏感的层保留较高精度，对其余层使用更激进的压缩79% 相似已验证llama.cpp项目将GGUF量化格式推向主流，支持从Q2_K到Q8_0等多种精度等级72% 相似待验证GGUF 是 llama.cpp 和 Ollama 使用的量化格式，包含 Q4_K_M、Q5_K_M 等策略，后缀字母代表不同量化策略71% 相似待验证GGUF 是由 llama.cpp 项目引入的量化模型格式，Q4_K_M 表示 4-bit 量化，相比 F16 可将显存占用减少约 75%71% 相似待验证llama.cpp 实现了从Q2_K到Q8_0等多种量化粒度，并引入了分组量化和混合精度策略70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/963723API
curl https://kongchang.com/api/v1/knowledge/claims/963723MCP
get_claim(id=963723)