待验证50% 置信事实精确时间
LoRA训练完成后BA可以合并回W中（W' = W + BA），因此推理时没有额外延迟，能与原始模型结构完全一致。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
涉及实体
相关事实
待验证LoRA推理时可以预先计算W' = W₀ + (α/r)BA，将LoRA分支融合到原权重中，实现零额外推理延迟75% 相似待验证LoRA训练时预训练模型权重W₀被冻结，只训练B和A两个矩阵，前向传播公式为H = W₀X + (α/r)BAX74% 相似待验证LoRA推理时可将BA与原权重合并，不增加任何推理延迟，通常只应用于注意力层的Q、V权重矩阵69% 相似已验证LoRA推理时可将权重合并回原模型，不带来额外延迟68% 相似待验证LoRA 由 Hu 等人在 2021 年提出，通过为每层注入可训练的低秩分解矩阵实现参数更新 ΔW = BA，将可训练参数量压缩至原始模型的 0.1%-1%66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1047749API
curl https://kongchang.com/api/v1/knowledge/claims/1047749MCP
get_claim(id=1047749)