Unverified50% confidenceFactExact time
一个rank=4的LoRA文件对于SD1.5模型约只有3-6MB,LoRA设计使训练参数量减少95%以上
1
Sources
50%
Confidence
Long-term
Relevance
7/24/2026
First Seen
Sources
CivitAI抢先体验争议:开源精神与商业化边界在哪里?
redditr/StableDiffusion7/11/2026
Related Claims
Unverified以 GPT-3 为例,r=4 时 LoRA 可将可训练参数从 175B 降至约 4.7M,减少约 37,000 倍76% similarUnverifiedLoRA使可训练参数量通常仅为全参微调的0.1%-1%,可在单张RTX 3090/4090(显存24GB)上微调7B乃至13B级别的模型70% similarUnverifiedLoRA训练中常用的学习率为1e-4到5e-4之间,常用的Network Rank值为8、16、32、64、12867% similarUnverified训练7B参数模型的全参数微调通常需要至少4张A100(80G)显卡,而LoRA使单张RTX 4090(24G)完成7B量级模型微调成为可能66% similarUnverifiedW4A4量化将权重和激活值均压缩至4位整数,理论上相比FP16可将显存占用降低至约1/463% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/609893API
curl https://kongchang.com/api/v1/knowledge/claims/609893MCP
get_claim(id=609893)