已验证70% 置信事实精确时间
LoRA在每个目标权重矩阵旁并联两个低秩矩阵A和B，其中A随机初始化，B初始化为零，仅训练这两个小矩阵，推理时将A×B乘积叠加回原始权重
4
来源数
70%
置信度
长期有效
时效性
2026/7/24
首次发现
来源
相关事实
已验证LoRA通过在模型权重矩阵旁插入低秩分解矩阵来实现微调，通常只需训练原始参数量的0.1%-1%84% 相似待验证LoRA训练时预训练模型权重W₀被冻结，只训练B和A两个矩阵，前向传播公式为H = W₀X + (α/r)BAX74% 相似待验证LoRA的原理是将微调中权重变化量ΔW分解为两个低秩矩阵的乘积（ΔW = A×B）72% 相似已验证LoRA（低秩适应）的核心思想是模型权重更新矩阵本征秩很低，无需更新全部参数，只需并联两个低秩矩阵71% 相似已验证LoRA是以参数高效微调（PEFT）为代表的主流微调方法，核心思想是在不改动原始模型权重的前提下向特定层注入低秩矩阵，只训练新增参数69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/607136API
curl https://kongchang.com/api/v1/knowledge/claims/607136MCP
get_claim(id=607136)