Unverified50% confidenceFactExact time
GPTQ（2022）通过逐层量化并利用 Hessian 信息最小化量化误差，首次实现了大模型在 INT4 下的可用表现
1
Sources
50%
Confidence
Long-term
Relevance
8/31/2026
First Seen
Sources
Related Entities
Related Claims
UnverifiedGPTQ于2022年通过逐层最优化二阶误差补偿实现了4位精度下的高质量模型压缩78% similarUnverifiedGPTQ（2022年）和AWQ（2023年）能将70B参数的LLM量化到INT4精度，困惑度损失不到1%76% similarUnverifiedGPTQ、AWQ、SqueezeLLM等量化方法在4-bit精度下仍能保持接近原始模型95%以上的性能71% similarUnverified在GPT-4发布初期，主流模型在GPQA上的准确率约为35-40%，人类领域专家基准线约为65%，随机猜测为25%69% similarUnverifiedQ4量化可将模型体积缩减至原来的约四分之一，MLX原生支持分组量化（Group Quantization）67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/828100API
curl https://kongchang.com/api/v1/knowledge/claims/828100MCP
get_claim(id=828100)