待验证50% 置信事实精确时间
2-bit 量化下每个权重仅约 4 个离散取值。
1
来源数
50%
置信度
长期有效
时效性
2026/10/25
首次发现
来源
涉及实体
相关事实
待验证2-bit量化意味着每个权重仅用4种状态表示，相比FP16压缩比高达8倍76% 相似待验证2.8T参数模型采用4-bit量化后，权重体积可能达到1.4TB以上74% 相似待验证三值化权重每个权重仅携带约1.58 bits信息量（log₂3≈1.585），相比FP32的32 bits信息密度下降约20倍71% 相似待验证以Q4_0格式为例，每32个FP32权重被打包为一个量化块，包含一个缩放因子和32个4bit整数，平均每参数约占4.5bit，内存占用缩减至原来的约1/869% 相似待验证W4A4 表示权重量化为 4-bit、激活值也量化为 4-bit，比 W4A16 方案更激进68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1095141API
curl https://kongchang.com/api/v1/knowledge/claims/1095141MCP
get_claim(id=1095141)