概念Grouped Sparse Quantization / Residual Compression and Optimization
RCO-GSQ
ISTA-DASLab提出的面向大模型的低比特量化方案,结合分组稀疏量化与残差压缩优化,在2-bit等极低精度下通过误差补偿机制保持可接受的模型质量
时间轴 (近 90 天)
9月24日
RCO-GSQ是ISTA-DASLab提出的低比特量化方案,GSQ通过权重分组引入稀疏性降低精度损失,RCO对量化残差进行进一步压缩与校正
待验证50%
ISTA-DASLab提出的面向大模型的低比特量化方案,结合分组稀疏量化与残差压缩优化,在2-bit等极低精度下通过误差补偿机制保持可接受的模型质量
RCO-GSQ是ISTA-DASLab提出的低比特量化方案,GSQ通过权重分组引入稀疏性降低精度损失,RCO对量化残差进行进一步压缩与校正