概念UD-IQ1_S量化版本
UD-IQ1_S
Unsloth Dynamic量化方案中的一种低比特量化类型(IQ1_S级别),通过动态分配比特在压缩体积的同时尽量保持精度。
时间轴 (近 90 天)
10月12日
IQ前缀(如UD-IQ1_S)表示基于重要性矩阵的量化,理论上在极低位宽下表现更优,但实际效果高度依赖校准数据质量。
待验证50%
Unsloth Dynamic量化方案中的一种低比特量化类型(IQ1_S级别),通过动态分配比特在压缩体积的同时尽量保持精度。
IQ前缀(如UD-IQ1_S)表示基于重要性矩阵的量化,理论上在极低位宽下表现更优,但实际效果高度依赖校准数据质量。