Verified65% confidenceFactExact time
AWQ于2023年发现权重中只有约1%的显著权重对精度影响巨大,通过保护这部分权重降低量化损失
3
Sources
65%
Confidence
Long-term
Relevance
7/17/2026
First Seen
Sources
Related Claims
VerifiedAWQ(2023)发现权重中约1%的显著通道对模型输出影响最大,通过等价缩放保护这些通道81% similarUnverifiedAWQ由MIT韩松团队于2023年提出,通过保护显著权重,相较朴素Q4量化在相同压缩比下可减少约20%的精度损失80% similarVerifiedAWQ 识别并保护对激活值影响最大的权重,在相同压缩率下通常比 GPTQ 取得更优的精度表现75% similarUnverified现代量化方案如GPTQ、AWQ引入逐层校准和误差补偿机制,将困惑度损失控制在1–2%以内69% similarUnverifiedAWQ通过分析激活值分布确定每个通道的量化缩放因子,相较朴素INT4量化能显著降低困惑度损失67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/544245API
curl https://kongchang.com/api/v1/knowledge/claims/544245MCP
get_claim(id=544245)