待验证50% 置信事实精确时间
Strata提供多个量化档位：66GB的Q20（最快）、68GB的IQ2XS（平衡）、76GB的IQ3XS（质量最好），测试使用IQ3S为83.6GB
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/5
首次发现
有效期至：2027/1/3
来源
涉及实体
相关事实
待验证文章称IQ3_S档位通常能将准确率保留提升到90%以上、体积约13-15GB，Q4_K_M能保留95%以上准确率、体积约16-18GB73% 相似待验证IQ4_XS量化文件大小15.57GB，pp2048为95.4 tok/s，tg128为10.9 tok/s72% 相似待验证内存需求为Q2_0至少37.6GB、IQ2_XS至少39.2GB、IQ3_XXS至少47GB，视觉编码器额外占用0.91GB71% 相似部分验证QLoRA论文验证了NF4量化配合LoRA微调可在65B参数模型上将显存需求从780GB降至48GB，同时保持接近全精度微调的性能66% 相似待验证IQ4_XS的平均量化位宽约为4.25 bit66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/978632API
curl https://kongchang.com/api/v1/knowledge/claims/978632MCP
get_claim(id=978632)