待验证80% 置信事实时间未知

QLoRA技术可将7B参数模型的显存占用从约28GB降低到不足6GB

1

来源数

80%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Unsloth教程：本地微调大模型速度提升数倍，显存节省60%

githubunslothai

涉及实体

相关事实

已验证QLoRA将基础模型权重以4bit NF4格式量化存储，使单卡微调130亿参数模型成为可能76% 相似已验证4-bit量化（如Q4_K_M）通常可将3B模型内存占用从约6GB压缩至约2GB，精度损失低于2-3%74% 相似待验证QLoRA的双重量化技术对量化常数本身再做一次8-bit量化，进一步节省约0.37 bit/参数的显存开销73% 相似已验证Q5_K_M 量化方案每个权重平均约 5.3 比特，32B 参数模型量化后大约需要 20-24GB 存储空间72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/31619

API

curl https://kongchang.com/api/v1/knowledge/claims/31619

MCP

get_claim(id=31619)