Unverified50% confidenceFactExact time
AWQ由MIT韩松团队于2023年提出,通过保护显著权重,相较朴素Q4量化在相同压缩比下可减少约20%的精度损失
1
Sources
50%
Confidence
Long-term
Relevance
7/23/2026
First Seen
Sources
Related Claims
VerifiedAWQ于2023年发现权重中只有约1%的显著权重对精度影响巨大,通过保护这部分权重降低量化损失80% similarUnverifiedAWQ通过分析激活值分布确定每个通道的量化缩放因子,相较朴素INT4量化能显著降低困惑度损失74% similarUnverifiedGPTQ、AWQ等后训练量化方案能在INT4精度下将性能损失控制在1-2%以内68% similarVerified4-bit量化技术(如GPTQ、AWQ、GGUF格式)可以将模型显存需求降低到原来的1/4,但会带来一定精度损失68% similarVerifiedAWQ 识别并保护对激活值影响最大的权重,在相同压缩率下通常比 GPTQ 取得更优的精度表现68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/598685API
curl https://kongchang.com/api/v1/knowledge/claims/598685MCP
get_claim(id=598685)