待验证50% 置信事实精确时间
量化技术将FP32（32位）权重降至INT4（4位），理论压缩比达8倍，但会引入精度损失
1
来源数
50%
置信度
长期有效
时效性
2026/7/14
首次发现
来源
相关事实
已验证量化技术通过将模型权重从FP32/FP16压缩为INT8/INT4等低精度格式，可将模型体积缩减50%-75%85% 相似待验证Q8_0（8-bit 量化）精度损失极小，约为原始 float16 的 97-99%，但体积压缩比仅约 2x74% 相似待验证4bit quantization compresses model size by approximately 75% compared to 16bit precision74% 相似待验证GGUF 量化格式可将FP16或BF16精度模型压缩至4-bit乃至2-bit精度73% 相似待验证FP8数据量比FP16压缩一半，H100的FP8 Tensor Core算力达到FP16的两倍（约1979 TFLOPS）73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/504224API
curl https://kongchang.com/api/v1/knowledge/claims/504224MCP
get_claim(id=504224)