待验证50% 置信事实精确时间

GPTQ、AWQ、SmoothQuant 等技术使大模型在 INT4 量化下仍能保持接近原始精度的表现

1

来源数

50%

置信度

长期有效

时效性

2026/8/30

首次发现

来源

GPT-5.6 Sol Ultrafast：大模型推理加速技术解析

涉及实体

GPTQtechnology AWQtechnology SmoothQuanttechnology

相关事实

待验证GPTQ 利用 Hessian 矩阵的逆补偿量化误差，AWQ 引入激活值感知机制保护显著权重，在4-bit量化下通常优于GPTQ75% 相似待验证顶级自回归模型如GPT-4o、Claude 3.5在GSM8K上准确率已超过95%，导致基准饱和73% 相似待验证在LLM领域，GPTQ、AWQ、QuIP等方法已证明4-bit量化的可行性，但无法直接迁移到扩散模型的U-Net或DiT架构上72% 相似待验证GPT-OSS原生支持FP4混合精度，无需额外量化即可大幅压缩显存占用71% 相似已验证GPTQ和AWQ量化格式主要用于GPU推理71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/823667

API

curl https://kongchang.com/api/v1/knowledge/claims/823667

MCP

get_claim(id=823667)