待验证50% 置信事实精确时间

LoRA缩放因子α/r中除以r起到归一化作用，使得在调整r时不需要同步调整学习率

1

来源数

50%

置信度

长期有效

时效性

2026/9/10

首次发现

来源

LoRA详解：大模型高效微调技术原理与实现

涉及实体

相关事实

待验证LoRA推理时可将BA与原权重合并，不增加任何推理延迟，通常只应用于注意力层的Q、V权重矩阵68% 相似已验证LoRA是以参数高效微调（PEFT）为代表的主流微调方法，核心思想是在不改动原始模型权重的前提下向特定层注入低秩矩阵，只训练新增参数66% 相似已验证LoRA通过在模型权重矩阵旁插入低秩分解矩阵来实现微调，通常只需训练原始参数量的0.1%-1%65% 相似待验证微调通过在私有数据上继续训练来更新模型权重，RAG则在不修改模型的前提下通过检索外挂知识库增强回答63% 相似已验证LoRA推理时可将权重合并回原模型，不带来额外延迟63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/888472

API

curl https://kongchang.com/api/v1/knowledge/claims/888472

MCP

get_claim(id=888472)