待验证50% 置信基准精确时间
在Red Hat研究中,同group size的GPTQ和AWQ 4-bit方法在HumanEval上分别拿到67和63分
1
来源数
50%
置信度
长期有效
时效性
2026/9/16
首次发现
来源
涉及实体
相关事实
待验证AWQ(激活感知权重量化)在4-bit量化下通常优于GPTQ69% 相似待验证GPTQ(2022年)和AWQ(2023年)能将70B参数的LLM量化到INT4精度,困惑度损失不到1%63% 相似待验证GPTQ、AWQ、SqueezeLLM等量化方法在4-bit精度下仍能保持接近原始模型95%以上的性能61% 相似待验证Reddit社区的大规模基准测试基于BeeLlama.cpp v0.4.0,在Qwen 3.6 27B和Gemma 4 31B两款模型上累计跑了413组配置对比,其中Qwen模型238组、Gemma模型175组60% 相似待验证在GPT-4发布初期,主流模型在GPQA上的准确率约为35-40%,人类领域专家基准线约为65%,随机猜测为25%58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/925956API
curl https://kongchang.com/api/v1/knowledge/claims/925956MCP
get_claim(id=925956)