Unverified50% confidenceFactExact time
AWQ由MIT团队提出，发现仅约1%的权重对激活值影响显著，通过保护这部分关键权重实现更优的低比特量化效果
1
Sources
50%
Confidence
Long-term
Relevance
7/14/2026
First Seen
Sources
Related Claims
UnverifiedAWQ的核心洞察是只有约1%的显著权重对模型输出影响巨大，对其保护性处理可在极低比特宽度下维持模型质量84% similarUnverifiedAWQ（Activation-aware Weight Quantization）于2023年提出，发现权重中约 1% 的显著通道对精度影响最大69% similarUnverifiedLoRA微调只需训练不到1%的参数即可达到接近全参微调的效果，显存需求大幅降低至单张消费级显卡可承受范围63% similarVerified使用LoRA微调时，实际需要训练的参数量只有原来的0.1%-1%59% similarUnverified采用经典2:1:1比例，与大多数临床研究使用的比例一致；若追求更高亮氨酸刺激mTOR通路，需另选4:1:1或更高比例产品59% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/503790API
curl https://kongchang.com/api/v1/knowledge/claims/503790MCP
get_claim(id=503790)