待验证50% 置信事实精确时间
GPTQ(2022)引入逐层Hessian矩阵近似,通过最小化权重量化前后的输出重建误差优化量化参数
1
来源数
50%
置信度
长期有效
时效性
2026/7/7
首次发现
来源
NVFP4量化实战:NVIDIA模型优化器压缩大模型指南
rss2026/6/26
相关事实
待验证GPTQ于2022年提出,将OBS框架从剪枝扩展到量化,利用海森矩阵的逆最优调整未量化权重以补偿量化误差,并通过Cholesky分解高效更新72% 相似待验证现代量化方案如GPTQ、AWQ及GGUF格式的分组量化,通过逐层校准和异常值保护,可将模型体积缩减75%以上同时保留绝大部分推理能力70% 相似待验证光束平差法(BA)通过Schur补(边缘化)利用Hessian矩阵的稀疏结构,将大规模问题分解为较小子问题以降低计算复杂度68% 相似待验证分组量化将权重矩阵按固定大小(通常32或64个元素)分组,每组独立计算量化缩放因子以减少精度损失67% 相似待验证K-quant 系列引入了分块量化策略,对权重矩阵中不同的 block 使用不同的缩放参数以减少量化误差67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/187836API
curl https://kongchang.com/api/v1/knowledge/claims/187836MCP
get_claim(id=187836)