待验证50% 置信基准精确时间

4Bit量化下模型的基准测试得分通常能保持原始精度的90%-95%

1

来源数

50%

置信度

长期有效

时效性

2026/8/27

首次发现

来源

通义千问3-27B本地部署：满血vs量化的显存与成本博弈

涉及实体

4Bit量化concept

相关事实

待验证NVFP4量化方案相比BF16基线实现了1.5倍的推理加速，同时在top-1准确率上保留了92%到97%的水平73% 相似待验证top-1%准确率是评估量化模型与原始全精度模型输出一致性的指标，关注模型置信度最高的1%的token是否与全精度版本一致71% 相似待验证在GPT-4发布初期，主流模型在GPQA上的准确率约为35-40%，人类领域专家基准线约为65%，随机猜测为25%70% 相似待验证该量化模型相较于BF16全精度版本保留了约77%的准确率69% 相似待验证开发者Ivan测试MTP-LX 0.3.5版本，在数学基准测试中5分30秒内取得了93.3%的正确率67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/810111

API

curl https://kongchang.com/api/v1/knowledge/claims/810111

MCP

get_claim(id=810111)