待验证50% 置信基准精确时间

IQ4_NL 相比 FP16 可节省约 75% 显存

1

来源数

50%

置信度

长期有效

时效性

2026/7/17

首次发现

来源

Qwen3.5无审查版本地部署实测：6G显存轻松跑35B大模型

相关事实

待验证O4-mini在GPQA博士级问答评测中准确率超过80%62% 相似待验证对于正态分布数据，IQR的1.5倍系数范围大约覆盖99.3%的数据点60% 相似待验证通过INT8或INT4量化，可将模型显存占用降低50%至75%60% 相似待验证在CLINC150基准测试上，80条微调数据可使向量路由达到85.9%的准确率，完整fine-tune可达96%以上59% 相似待验证FP8相比BF16可实现近2倍的吞吐量提升，同时显存占用减少约50%58% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/537825

API

curl https://kongchang.com/api/v1/knowledge/claims/537825

MCP

get_claim(id=537825)