待验证50% 置信事实精确时间
Strata的IQ3_XXS量化版本把专家权重压到约3比特,光专家就约占43GB内存
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/5
首次发现
有效期至:2027/1/3
来源
涉及实体
相关事实
待验证Strata提供多个量化档位:66GB的Q20(最快)、68GB的IQ2XS(平衡)、76GB的IQ3XS(质量最好),测试使用IQ3S为83.6GB77% 相似待验证内存需求为Q2_0至少37.6GB、IQ2_XS至少39.2GB、IQ3_XXS至少47GB,视觉编码器额外占用0.91GB72% 相似待验证文章称IQ3_S档位通常能将准确率保留提升到90%以上、体积约13-15GB,Q4_K_M能保留95%以上准确率、体积约16-18GB71% 相似待验证IQ4_XS的平均量化位宽约为4.25 bit69% 相似待验证Llama 3 70B量化版(Q4精度)仍需约35GB内存69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/978806API
curl https://kongchang.com/api/v1/knowledge/claims/978806MCP
get_claim(id=978806)