[控场AI]
概念IQ4_XS量化 / iQuant 4-bit

IQ4_XS

llama.cpp生态中的一种非均匀4-bit量化格式,属于iQuant系列,通过在每个量化块内使用更精细的缩放因子分配策略,在相近压缩率下保留更多原始权重的分布特征,压缩效果优于标准Q4_K_M等方案

时间轴 (近 90 天)

9月25日

IQ4_XS的平均量化位宽约为4.25 bit

待验证50%
9月18日

IQ4_XS是llama.cpp生态中的一种非均匀4-bit量化格式,在量化块内使用更精细的缩放因子分配策略

待验证60%

全部知识事实 (2)

来源文章