待验证50% 置信事实精确时间
测试模型来自 bartowski 的 GGUF 量化包，覆盖 BF16、Q8_0、Q4_K_M、Q3_K_M、Q2_K 五种精度
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/27
首次发现
有效期至：2026/12/26
来源
涉及实体
相关事实
待验证GGUF 中 BF16 每参数占 16 位，Q8_0 约 8 位，Q4_K_M 约 4 位，Q3_K_M 约 3 位，Q2_K 约 2 位71% 相似已验证GGUF 量化命名中 Q4_K_M 表示 4 位量化、使用 K-Quant 分组量化方法的中等精度（Medium）变体70% 相似待验证测试重点采用每个量化级别中最大的KXL变体（如Q2KXL、Q3KXL、Q4KXL），并统一使用Q8推理高精度模式69% 相似待验证B站开发者Luke对Unsloth发布的Qwen3系列27B模型进行了从Q1到Q8多个量化级别的横评测试67% 相似已验证Q4_K_M中的K代表k-quants方案，M代表中等质量级别，是llama.cpp引入的混合量化策略67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/954334API
curl https://kongchang.com/api/v1/knowledge/claims/954334MCP
get_claim(id=954334)