Unverified50% confidenceFactExact time
在投机解码场景中，Q3量化版本实际速度慢于Q4量化版本
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/2/2026
First Seen
Valid until: 9/30/2026
Sources
Related Claims
UnverifiedQ4_K_M 在困惑度上比纯 Q4 低约 0.1–0.377% similarUnverifiedQ4量化可将模型体积缩减至原来的约四分之一，MLX原生支持分组量化（Group Quantization）75% similarUnverifiedQ6_K 使用 6-bit 量化并结合 K-quants 分组技术，相比 Q4 量化损失更小，相比 Q8 量化体积更小74% similarUnverified原版Qwen3.6 27B Q4在工具调用测试中获得97分，说明蒸馏并不总能提升性能74% similarUnverifiedQ4量化可将模型体积压缩至原来的约1/8，代价是约1-3%的基准测试精度损失74% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/58543API
curl https://kongchang.com/api/v1/knowledge/claims/58543MCP
get_claim(id=58543)