已验证65% 置信事实精确时间

4-bit量化理论上可将模型体积缩小8倍（相比32位存储）

3

来源数

65%

置信度

长期有效

时效性

2026/7/16

首次发现

来源

llama.cpp里程碑：本地大模型推理引擎的开源进化之路

相关事实

已验证4-bit量化使模型存储空间缩减为FP16的约1/485% 相似已验证GGUF格式的4-bit量化可将模型权重从32位浮点压缩到4位整数，模型体积缩小约8倍83% 相似部分验证标准的FP32模型每个参数占用4字节，而INT4量化将其压缩至0.5字节，理论上可实现8倍的内存节省78% 相似已验证4-bit量化（如Q4_K_M）通常可将3B模型内存占用从约6GB压缩至约2GB，精度损失低于2-3%78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/526536

API

curl https://kongchang.com/api/v1/knowledge/claims/526536

MCP

get_claim(id=526536)