待验证50% 置信事实精确时间

2bit量化将每个参数用2个二进制位表示，相比FP16压缩8倍，是目前实用化量化中压缩比最高的档位，通常只适用于MoE等具备冗余结构的大参数模型

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

Strata开源项目：家用PC本地跑125B模型快云端5倍

涉及实体

2bit量化concept MoEconcept

相关事实

待验证传统的8-bit量化只能带来约2倍的压缩76% 相似待验证三元表示理论上每个参数只需约1.58比特，相比FP16可以带来近10倍的存储压缩74% 相似待验证端侧大模型通过模型量化（FP32压缩为INT4/INT8）、知识蒸馏和结构剪枝等技术将参数量压缩至1B-7B级别，可在本地芯片实时推理71% 相似待验证量化（Quantization）是把模型参数的保存精度从16bit压缩到8bit甚至4bit，从而降低内存占用，但代价是模型精度可能出现一定损失71% 相似已验证GGUF格式的4-bit量化可将模型权重从32位浮点压缩到4位整数，模型体积缩小约8倍70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1003442

API

curl https://kongchang.com/api/v1/knowledge/claims/1003442

MCP

get_claim(id=1003442)