待验证50% 置信事实精确时间
Q6 量化意味着每个权重用 6 位存储，相比 FP16 节省约 62% 的内存占用
1
来源数
50%
置信度
长期有效
时效性
2026/9/26
首次发现
来源
涉及实体
相关事实
待验证FP4 相对 FP16 可节省75%存储，采用每组16或32个权重共享一个 FP8 缩放因子的分组量化策略77% 相似已验证Q4_K_M 采用混合精度，部分关键权重以 6bit 存储，其余以 4bit 存储，整体平均约 4.5bit76% 相似部分验证标准的FP32模型每个参数占用4字节，而INT4量化将其压缩至0.5字节，理论上可实现8倍的内存节省73% 相似待验证GGUF量化格式中Q5_K表示大部分权重以5-bit存储，_L/_XL后缀表示注意力层保留Q8_0更高精度72% 相似待验证FP8是一种以8位浮点数存储权重和/或激活的格式，显存与内存占用约为4-bit量化的两倍72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/951400API
curl https://kongchang.com/api/v1/knowledge/claims/951400MCP
get_claim(id=951400)