待验证50% 置信基准精确时间
守护式压缩的编码和恢复总时间比守护式BF16长2.3-2.6倍,但比守护式块状8位更短。
1
来源数
50%
置信度
长期有效
时效性
2026/11/3
首次发现
来源
涉及实体
相关事实
待验证动态GGUF的UD-IQ2_XXS档位将原始BF16模型体积从54.7GB压缩到约9GB,体积压缩率83.5%,准确率保留82.5%66% 相似待验证从BF16到FP8内存占用减半66% 相似待验证13B-14B级别模型(4-bit量化)在该配置下速度下降到每秒2-5个token66% 相似待验证2-bit量化意味着每个权重仅用4种状态表示,相比FP16压缩比高达8倍65% 相似待验证在相同 harness 下对比 BF16 和 NVFP4,WebVoyager 从 77.72 降至 66.31,DeepSWE 从 24.65 降至 18.2,MMLU-ProX 从 76.91 降至 73.76,其他行差距在噪声范围内。64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1129381API
curl https://kongchang.com/api/v1/knowledge/claims/1129381MCP
get_claim(id=1129381)