待验证50% 置信基准精确时间

量化等级精度损失对比：Q5近乎无损，Q4约2%~5%损失，Q3约8%~15%损失，Q2约30%~50%损失

1

来源数

50%

置信度

长期有效

时效性

2026/9/6

首次发现

来源

7900XTX本地部署通义千问3实战：53TPS推理速度调优指南

涉及实体

相关事实

已验证研究表明在 Q4 及以上精度时，大多数任务的性能损失在 1–3% 以内80% 相似已验证INT8量化约损失0.5%精度、显存减半，INT4量化显存压缩至原来的1/4、精度损失约1-3%77% 相似待验证Q4_K_M是最主流的量化平衡选择，困惑度损失通常低于1%；Q2_K可将70B模型压缩至约26GB但质量下降明显74% 相似待验证4-bit量化在损失约1-3%准确率的前提下，将模型体积缩减至原来的1/870% 相似已验证量化技术可将模型体积压缩50%-75%，在损失极小精度前提下降低显存占用66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/866087

API

curl https://kongchang.com/api/v1/knowledge/claims/866087

MCP

get_claim(id=866087)