待验证50% 置信事实精确时间
GPTQ于2022年提出，将OBS框架从剪枝扩展到量化，利用海森矩阵的逆最优调整未量化权重以补偿量化误差，并通过Cholesky分解高效更新
1
来源数
50%
置信度
长期有效
时效性
2026/8/7
首次发现
来源
相关事实
待验证GPTQ（2022）引入逐层Hessian矩阵近似，通过最小化权重量化前后的输出重建误差优化量化参数72% 相似待验证GPTQ量化算法由Tim Dettmers等人于2023年提出，通过二阶梯度信息逐层优化量化误差70% 相似待验证GPTQ通过对每一层权重进行二阶近似优化（基于OBS/OBQ框架）来最小化量化误差，通常需要如C4数据集的128条样本校准，单GPU上仅需数小时完成68% 相似待验证现代量化方案如GPTQ、AWQ及GGUF格式的分组量化，通过逐层校准和异常值保护，可将模型体积缩减75%以上同时保留绝大部分推理能力68% 相似待验证现代量化方法如 GPTQ、AWQ 通过逐层校准显著缓解了精度退化问题64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/705553API
curl https://kongchang.com/api/v1/knowledge/claims/705553MCP
get_claim(id=705553)