待验证50% 置信事实精确时间
微调70B模型时,QLoRA约需50 GB显存,LoRA约150 GB,全量微调配合AdamW优化器高达1.1 TB。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
部分验证以 65B 参数的 LLaMA 模型为例,传统全量微调需要 780GB 以上显存,而 QLoRA 仅需约 48GB80% 相似待验证以约160GB的模型(如Qwen3.5-397B的UD-Q3_K_XL量化版本)为例,运行透镜需额外约20GB内存77% 相似待验证全量微调70B模型配合AdamW优化器需要约1,129 GB显存(705.5亿参数 × 16字节/参数)。76% 相似待验证用 QLoRA 微调 gpt-oss-20b 约需 14 GB 显存,Unsloth 官方建议至少配备 16 GB76% 相似待验证使用QLoRA在RTX 4090上微调Llama 7B模型,显存占用约5-8GB76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1019924API
curl https://kongchang.com/api/v1/knowledge/claims/1019924MCP
get_claim(id=1019924)