待验证50% 置信观点精确时间
NVFP4 借助更细的块粒度和浮点缩放，在激活值分布跨度较大的层中能更好地保留小数值信息，因此在同等 4 比特位宽下往往比 INT4 的困惑度损失更小。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
待验证NVFP4 采用 E2M1 的尾数与指数分配，可表示范围极窄，因此必须以分块缩放的方式使用。79% 相似待验证4-bit量化（如bitsandbytes的NF4或GPTQ）的权重通常以块为单位存储，每块附带缩放因子和零点，这些元数据常以FP16或FP32保存；嵌入层、输出层和归一化层可能保持更高精度，因此实际权重文件比理论值P×b/8通常多出5%-15%。73% 相似待验证4-bit 量化意味着每个参数仅占 0.5 字节，相比 FP16 减少了 75% 的显存占用71% 相似已验证Q4 代表用4位整数存储每个权重，相比原始16位浮点数体积缩减约75%71% 相似待验证INT4量化可将KV Cache进一步压缩到0.5字节，但可能需要配合校准数据保证精度70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1101738API
curl https://kongchang.com/api/v1/knowledge/claims/1101738MCP
get_claim(id=1101738)