待验证50% 置信事实精确时间
q2_0 属于极低比特量化方案，每个权重仅用约 2 bit 表示。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证QLoRA的双重量化技术对量化常数本身再做一次8-bit量化，进一步节省约0.37 bit/参数的显存开销69% 相似待验证Q8_0 表示 8 位整数量化：权重以 8 bit 块存储，每个块带一个缩放因子，相比 FP16 大约减半，精度损失很小但几乎不省内存68% 相似待验证将 74B 参数压缩到 24GB 需要 2-bit 量化配合量化感知训练（QAT），即参数以 2 bit 而非 16 bit 存储，且模型在训练阶段就适应这种压缩。64% 相似已验证4-bit量化（如Q4_K_M）通常可将3B模型内存占用从约6GB压缩至约2GB，精度损失低于2-3%64% 相似待验证4-bit 量化意味着每个参数仅占 0.5 字节，相比 FP16 减少了 75% 的显存占用63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1050001API
curl https://kongchang.com/api/v1/knowledge/claims/1050001MCP
get_claim(id=1050001)