待验证50% 置信基准精确时间
对于7B至13B参数级别的模型，4-bit量化后的输出质量与全精度版本差异很小
1
来源数
50%
置信度
长期有效
时效性
2026/8/26
首次发现
来源
涉及实体
相关事实
待验证在4-bit量化下，纯参数理论最小占用为：7B约3.26GiB，13B约6.05GiB，32B约14.90GiB，70B约32.60GiB77% 相似待验证万象模型提供了 1.3B 和 14B 参数量的不同规模版本77% 相似待验证MiniCPM 系列以 2B-4B 级别的参数量在多项基准测试中实现了接近 7B 甚至 13B 模型的性能75% 相似已验证模型参数量越大，对量化的鲁棒性越强，使得70B级别模型在4-bit量化后仍能保持接近FP16的性能75% 相似待验证研究表明当模型参数规模达到3B以上时，1.58-bit模型在多项基准测试中表现可接近甚至匹配同等规模的全精度模型72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/805141API
curl https://kongchang.com/api/v1/knowledge/claims/805141MCP
get_claim(id=805141)