已验证75% 置信事实时间未知

NF4（4-bit NormalFloat）是QLoRA论文（Dettmers et al., 2023）中提出的一种信息论最优的数据类型

3

来源数

75%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

4-bit QLoRA微调LLaMA 3实战：消费级GPU训练80亿参数大模型指南

githubCre4T3Tiv3

涉及实体

NF4concept QLoRAconcept Dettmersperson

相关事实

待验证Ollama默认提供的模型多为4-bit量化版本（Q4_0或Q4_K_M格式）67% 相似待验证NVFP4是一种4位浮点量化格式，用于在保持模型精度的同时降低显存占用和提升推理吞吐66% 相似待验证NVFP4与INT4的区别在于它保留了浮点数的动态范围表达能力，对权重分布非均匀的大模型更友好65% 相似待验证IQ4_XS是llama.cpp生态中的一种非均匀4-bit量化格式，在量化块内使用更精细的缩放因子分配策略64% 相似待验证NVFP4是NF4（Normal Float 4）等学术方案的工程化演进版本64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/29152

API

curl https://kongchang.com/api/v1/knowledge/claims/29152

MCP

get_claim(id=29152)