待验证50% 置信事实精确时间

QLoRA 在 LoRA 基础上引入 4-bit NormalFloat（NF4）量化、双重量化和分页优化器来压缩显存并维持训练稳定性

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

实战微调gpt-oss-20b：Unsloth训练到Ollama部署全流程

涉及实体

QLoRAconcept NF4concept

相关事实

待验证QLoRA 的核心思路是先将预训练模型以 4-bit 精度量化以降低显存占用，再仅训练少量低秩适配矩阵而不更新原始权重77% 相似待验证VQ 为每个张量的每个量化档位设置一个可训练的标量门控，冻结候选权重，仅通过一个 epoch 训练决定最优量化等级69% 相似待验证LoRA通过在预训练模型权重上叠加低秩分解矩阵实现参数高效微调，一致性最高，但每个新角色需要数十张参考图和数小时训练，工程成本高68% 相似待验证LoRA可将可训练参数压缩至原始规模的0.1%至1%，使单张消费级GPU即可完成微调68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/999487

API

curl https://kongchang.com/api/v1/knowledge/claims/999487

MCP

get_claim(id=999487)