待验证50% 置信事实精确时间
LoRA将权重更新表示为ΔW = BA，其中B和A为低秩矩阵，秩r远小于min(d,k)，训练时只更新A和B，冻结原模型参数。
1
来源数
50%
置信度
长期有效
时效性
2026/10/28
首次发现
来源
涉及实体
相关事实
已验证LoRA将权重更新矩阵ΔW分解为两个秩远低于原矩阵的小矩阵A和B之积，参数量可缩减至原来的万分之一甚至更少78% 相似已验证LoRA将对权重矩阵的全量更新分解为两个低秩矩阵的乘积，训练时只更新这两个小矩阵，原始权重保持冻结76% 相似已验证LoRA微调时冻结原始模型参数不动，只更新插入的低秩矩阵，显存需求和训练成本大幅降低75% 相似待验证LoRA/PEFT的低秩更新只调整权重矩阵的少数方向，可能恰好放大预训练中已存在的潜在耦合方向，且基于全参数变化的异常检测难以捕捉这种定向放大。73% 相似待验证LoRA使用缩放因子alpha/r对更新量进行缩放，调整r时不需要大幅重新调优学习率，降低超参数搜索成本。73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1106344API
curl https://kongchang.com/api/v1/knowledge/claims/1106344MCP
get_claim(id=1106344)