待验证50% 置信事实精确时间

GPTQ（2022）通过逐层量化并利用 Hessian 信息最小化量化误差，首次实现了大模型在 INT4 下的可用表现

1

来源数

50%

置信度

长期有效

时效性

2026/8/31

首次发现

来源

GPT-5.6 Sol Ultrafast：大模型推理加速技术解析

涉及实体

相关事实

待验证GPTQ于2022年通过逐层最优化二阶误差补偿实现了4位精度下的高质量模型压缩78% 相似待验证GPTQ（2022年）和AWQ（2023年）能将70B参数的LLM量化到INT4精度，困惑度损失不到1%76% 相似待验证GPTQ、AWQ、SqueezeLLM等量化方法在4-bit精度下仍能保持接近原始模型95%以上的性能71% 相似待验证在GPT-4发布初期，主流模型在GPQA上的准确率约为35-40%，人类领域专家基准线约为65%，随机猜测为25%69% 相似待验证Q4量化可将模型体积缩减至原来的约四分之一，MLX原生支持分组量化（Group Quantization）67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/828100

API

curl https://kongchang.com/api/v1/knowledge/claims/828100

MCP

get_claim(id=828100)