待验证50% 置信基准精确时间

GPTQ、AWQ、SqueezeLLM等量化方法在4-bit精度下仍能保持接近原始模型95%以上的性能

1

来源数

50%

置信度

长期有效

时效性

2026/8/28

首次发现

来源

OpenAI推GPT-5.6 Sol限时降价：AI大模型价格战再升级

涉及实体

GPTQconcept AWQconcept SqueezeLLMconcept

相关事实

待验证AWQ（激活感知权重量化）在4-bit量化下通常优于GPTQ78% 相似待验证4Bit量化下模型的基准测试得分通常能保持原始精度的90%-95%77% 相似已验证模型参数量越大，对量化的鲁棒性越强，使得70B级别模型在4-bit量化后仍能保持接近FP16的性能76% 相似待验证GPTQ（2022年）和AWQ（2023年）能将70B参数的LLM量化到INT4精度，困惑度损失不到1%75% 相似待验证NVFP4量化方案相比BF16基线实现了1.5倍的推理加速，同时在top-1准确率上保留了92%到97%的水平75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/811460

API

curl https://kongchang.com/api/v1/knowledge/claims/811460

MCP

get_claim(id=811460)