待验证50% 置信事实精确时间

AWQ（Activation-aware Weight Quantization）于2023年提出，发现权重中约 1% 的显著通道对精度影响最大

1

来源数

50%

置信度

长期有效

时效性

2026/7/20

首次发现

来源

手写C/CUDA推理引擎：RTX 5090运行Qwen 35B模型的极致优化

相关事实

待验证AWQ由MIT团队提出，发现仅约1%的权重对激活值影响显著，通过保护这部分关键权重实现更优的低比特量化效果69% 相似待验证AWQ的核心洞察是只有约1%的显著权重对模型输出影响巨大，对其保护性处理可在极低比特宽度下维持模型质量66% 相似待验证L1向量路由在Top20高频意图上准确率能达到95%以上，比L2大模型仅差1.5个百分点，但延迟和成本均降低约30倍55% 相似待验证参数量在1亿以下的轻量模型经领域数据微调后可达95%以上意图分类准确率，单次推理延迟控制在5-20ms以内55% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/566751

API

curl https://kongchang.com/api/v1/knowledge/claims/566751

MCP

get_claim(id=566751)