待验证50% 置信基准精确时间
Unsloth公开的UD-Q4_K_XL量化平均KL散度为0.046893,与BF16的top-1一致率为92.255%。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/17
首次发现
有效期至:2027/1/15
来源
涉及实体
相关事实
待验证使用Qwen3-27B模型在wikitext-2数据集上以fp32参考logits为基准进行KL散度测量,中位数KLD从0.0023降至0.000001,精度提升约2300倍72% 相似待验证GGUF 中 BF16 每参数占 16 位,Q8_0 约 8 位,Q4_K_M 约 4 位,Q3_K_M 约 3 位,Q2_K 约 2 位69% 相似待验证在 agentgateway 的实测中,qwen3.8(27.3B,Q4_K_M 量化,262K 上下文)有效回答率为 90.0%(54/60),已答准确率为 98.1%(53/54),全量准确率为 88.3%(53/60)。68% 相似待验证K-Quant是llama.cpp生态中的混合精度量化方案,根据每层权重敏感度分配不同量化bit数,可在相同平均bit数下将精度损失降低40-60%67% 相似待验证GK 摘要(Greenwald-Khanna)使用带误差界的计数器给出确定性的分位数近似保证。65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1049827API
curl https://kongchang.com/api/v1/knowledge/claims/1049827MCP
get_claim(id=1049827)