Verified65% confidenceFactExact time
LoRA将权重更新矩阵ΔW分解为两个秩远低于原矩阵的小矩阵A和B之积,参数量可缩减至原来的万分之一甚至更少
3
Sources
65%
Confidence
Long-term
Relevance
7/12/2026
First Seen
Sources
Krea 2 Turbo风格参考LoRA:一张图片定义生成风格
redditr/StableDiffusion7/9/2026
Related Claims
UnverifiedLoRA将对权重矩阵的全量更新分解为两个低秩矩阵的乘积,训练时只更新这两个小矩阵,原始权重保持冻结84% similarUnverifiedLoRA 利用 SVD 的低秩近似原理,将大型权重矩阵的增量更新分解为两个低秩矩阵的乘积,从而将可训练参数量从数十亿压缩至数百万量级75% similarUnverified低秩分解与量化压缩维度正交互补,对小矩阵A和B分别量化误差更小,叠加压缩比可达单一方法数倍73% similarVerifiedLoRA微调时冻结原始模型参数不动,只更新插入的低秩矩阵,显存需求和训练成本大幅降低70% similarUnverified分组量化将权重矩阵按固定大小(通常32或64个元素)分组,每组独立计算量化缩放因子以减少精度损失66% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/491905API
curl https://kongchang.com/api/v1/knowledge/claims/491905MCP
get_claim(id=491905)