待验证50% 置信事实精确时间

0.9B量级的模型经INT8量化后，理论推理内存占用可降至约1GB以下

1

来源数

50%

置信度

长期有效

时效性

2026/9/7

首次发现

来源

GLM-OCR：0.9B参数轻量模型如何撼动文档识别格局

涉及实体

INT8量化concept

相关事实

待验证4-bit量化在损失约1-3%准确率的前提下，将模型体积缩减至原来的1/876% 相似已验证INT8量化约损失0.5%精度、显存减半，INT4量化显存压缩至原来的1/4、精度损失约1-3%73% 相似待验证INT8量化通过将32位浮点权重映射到8位整数，在几乎不损失精度的前提下将模型体积压缩75%72% 相似待验证int8量化将参数从16位压缩至8位，理论上减少约50%显存占用；int4将显存占用降低至原始的25%左右72% 相似待验证轻量版模型单次推理的算力消耗往往只有旗舰版本的十分之一甚至更低72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/868479

API

curl https://kongchang.com/api/v1/knowledge/claims/868479

MCP

get_claim(id=868479)