待验证50% 置信事实精确时间
AWQ由MIT团队提出,发现仅约1%的权重对激活值影响显著,通过保护这部分关键权重实现更优的低比特量化效果
1
来源数
50%
置信度
长期有效
时效性
2026/7/14
首次发现
来源
相关事实
待验证AWQ的核心洞察是只有约1%的显著权重对模型输出影响巨大,对其保护性处理可在极低比特宽度下维持模型质量84% 相似待验证AWQ(Activation-aware Weight Quantization)于2023年提出,发现权重中约 1% 的显著通道对精度影响最大69% 相似待验证LoRA微调只需训练不到1%的参数即可达到接近全参微调的效果,显存需求大幅降低至单张消费级显卡可承受范围63% 相似已验证使用LoRA微调时,实际需要训练的参数量只有原来的0.1%-1%59% 相似待验证采用经典2:1:1比例,与大多数临床研究使用的比例一致;若追求更高亮氨酸刺激mTOR通路,需另选4:1:1或更高比例产品59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/503790API
curl https://kongchang.com/api/v1/knowledge/claims/503790MCP
get_claim(id=503790)