待验证50% 置信事实精确时间

「Q4」是一个名义标签，描述整体大致压缩目标，而非逐一权重的字面精度

1

来源数

50%

置信度

长期有效

时效性

2026/8/14

首次发现

来源

看懂GGUF量化：Q4_K_M与Q4_K_S的真正区别

相关事实

已验证Q4量化将每个权重参数从16位压缩到4位，理论上可将模型体积缩小约75%68% 相似待验证在投机解码场景中，Q3量化版本实际速度慢于Q4量化版本67% 相似已验证GGUF量化格式（如Q4_K_M）通过将权重精度从32位浮点压缩到4位整数，通常只带来约1-5%的性能损失67% 相似待验证Q4_K_XL方案中MoE层使用MXFP4，其余层压缩到Q8_0，在top-1%预测一致性上达到96% same66% 相似待验证Q4_K_M 在困惑度上比纯 Q4 低约 0.1–0.365% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/745187

API

curl https://kongchang.com/api/v1/knowledge/claims/745187

MCP

get_claim(id=745187)