待验证60% 置信权衡取舍精确时间
AWQ（激活感知权重量化）在4-bit量化下通常优于GPTQ
2
来源数
60%
置信度
长期有效
时效性
2026/7/21
首次发现
来源
相关事实
待验证GPTQ、AWQ、SqueezeLLM等量化方法在4-bit精度下仍能保持接近原始模型95%以上的性能78% 相似待验证GPTQ（2022年）和AWQ（2023年）能将70B参数的LLM量化到INT4精度，困惑度损失不到1%74% 相似待验证在Red Hat研究中，同group size的GPTQ和AWQ 4-bit方法在HumanEval上分别拿到67和63分69% 相似待验证相比朴素的统一 3-bit 量化，IQ3 系列通常能以相近的显存代价换来明显更好的输出质量67% 相似待验证研究测试了RTN、GPTQ、AWQ三种4-bit量化方案，没有任何一个配置因量化而跌出或进入合格区间66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/579712API
curl https://kongchang.com/api/v1/knowledge/claims/579712MCP
get_claim(id=579712)