概念IQ4_XS量化 / iQuant 4-bit
IQ4_XS
llama.cpp生态中的一种非均匀4-bit量化格式,属于iQuant系列,通过在每个量化块内使用更精细的缩放因子分配策略,在相近压缩率下保留更多原始权重的分布特征,压缩效果优于标准Q4_K_M等方案
时间轴 (近 90 天)
9月25日
IQ4_XS的平均量化位宽约为4.25 bit
待验证50%
9月18日
IQ4_XS是llama.cpp生态中的一种非均匀4-bit量化格式,在量化块内使用更精细的缩放因子分配策略
待验证60%