待验证50% 置信基准精确时间

GPTQ（2022年）和AWQ（2023年）能将70B参数的LLM量化到INT4精度，困惑度损失不到1%

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/8

首次发现

有效期至：2026/11/6

来源

AMD收购Taalas：将AI模型刻进芯片意味着什么

相关事实

待验证AWQ（激活感知权重量化）在4-bit量化下通常优于GPTQ74% 相似待验证GPTQ于2022年通过逐层最优化二阶误差补偿实现了4位精度下的高质量模型压缩72% 相似已验证模型参数量越大，对量化的鲁棒性越强，使得70B级别模型在4-bit量化后仍能保持接近FP16的性能67% 相似待验证在GPT-4发布初期，主流模型在GPQA上的准确率约为35-40%，人类领域专家基准线约为65%，随机猜测为25%65% 相似待验证在BugFind代码找Bug测试中，Qwen3.6 27B Q4精度得了87分，比Q6的80分更高，出现了量化反转现象65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/707203

API

curl https://kongchang.com/api/v1/knowledge/claims/707203

MCP

get_claim(id=707203)