Unverified50% confidenceFactExact time
GPTQ（2022）引入逐层Hessian矩阵近似，通过最小化权重量化前后的输出重建误差优化量化参数
1
Sources
50%
Confidence
Long-term
Relevance
7/7/2026
First Seen
Sources
NVFP4量化实战：NVIDIA模型优化器压缩大模型指南
rss6/26/2026
Related Claims
UnverifiedGPTQ于2022年提出，将OBS框架从剪枝扩展到量化，利用海森矩阵的逆最优调整未量化权重以补偿量化误差，并通过Cholesky分解高效更新72% similarUnverified现代量化方案如GPTQ、AWQ及GGUF格式的分组量化，通过逐层校准和异常值保护，可将模型体积缩减75%以上同时保留绝大部分推理能力70% similarUnverified光束平差法（BA）通过Schur补（边缘化）利用Hessian矩阵的稀疏结构，将大规模问题分解为较小子问题以降低计算复杂度68% similarUnverified分组量化将权重矩阵按固定大小（通常32或64个元素）分组，每组独立计算量化缩放因子以减少精度损失67% similarUnverifiedK-quant 系列引入了分块量化策略，对权重矩阵中不同的 block 使用不同的缩放参数以减少量化误差67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/187836API
curl https://kongchang.com/api/v1/knowledge/claims/187836MCP
get_claim(id=187836)