待验证50% 置信事件精确时间
官方在 9 月 22 日的更新中将 Qwen-Image GGUF 的默认精度从 F16/BF16 调整为 Q4_K_M
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/23
首次发现
有效期至:2026/12/22
来源
涉及实体
相关事实
已验证GGUF 量化命名中 Q4_K_M 表示 4 位量化、使用 K-Quant 分组量化方法的中等精度(Medium)变体68% 相似待验证通过--quantization quark_mxfp4,SGLang在加载时将NVFP4权重解量化并重新量化为MXFP4,在MiniMax-M2.7、GLM-5.1等模型上GSM8K准确率恢复达97.5%-100.2%67% 相似待验证Qwen 2.5 7B使用4组GQA配置,推理时KV Cache体积相比MHA减少约75%66% 相似待验证Qwen3 27B 的 4-bit 量化在主流基准任务上与 FP16 基准的性能差距处于可接受范围内,表现稳健66% 相似待验证微调后的Qwen3.5-4B模型在BU Bench V1基准上准确率从15%提升至53%65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/942293API
curl https://kongchang.com/api/v1/knowledge/claims/942293MCP
get_claim(id=942293)