待验证50% 置信权衡取舍精确时间
IQ4_XS与Q4_K_M速度几乎一致，但IQ4_XS体积更小可节省约2GB空间用于扩展上下文，因此性价比更高
1
来源数
50%
置信度
长期有效
时效性
2026/8/20
首次发现
来源
相关事实
已验证Q4_K_M 采用混合精度，部分关键权重以 6bit 存储，其余以 4bit 存储，整体平均约 4.5bit72% 相似待验证一个32K上下文窗口在Q4量化模型上可能额外占用2-4GB内存69% 相似待验证Q4_K_M是8GB显存用户的事实标准选择，在几乎不增加显存的前提下相比Q4_0显著改善输出质量69% 相似待验证After Gemma 4 QAT optimization, the minimum memory footprint can be reduced to 1GB68% 相似已验证4-bit量化（如Q4_K_M）通常可将3B模型内存占用从约6GB压缩至约2GB，精度损失低于2-3%68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/778777API
curl https://kongchang.com/api/v1/knowledge/claims/778777MCP
get_claim(id=778777)