Unverified50% confidenceFactExact time
LoRA 由 Hu 等人在 2021 年提出,通过为每层注入可训练的低秩分解矩阵实现参数更新 ΔW = BA,将可训练参数量压缩至原始模型的 0.1%-1%
1
Sources
50%
Confidence
Long-term
Relevance
8/25/2026
First Seen
Sources
Related Entities
Related Claims
VerifiedLoRA通过在模型权重矩阵旁插入低秩分解矩阵来实现微调,通常只需训练原始参数量的0.1%-1%76% similarVerifiedLoRA是以参数高效微调(PEFT)为代表的主流微调方法,核心思想是在不改动原始模型权重的前提下向特定层注入低秩矩阵,只训练新增参数75% similarVerifiedLoRA通过在模型权重矩阵中注入低秩分解矩阵来减少可训练参数量,使得在消费级GPU上微调数十亿参数的模型成为可能74% similarVerifiedLoRA(低秩适应)的核心思想是模型权重更新矩阵本征秩很低,无需更新全部参数,只需并联两个低秩矩阵67% similarUnverifiedLoRA是主流的参数高效微调算法,其核心假设是大模型参数更新矩阵的本征秩远低于其实际维度67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/798531API
curl https://kongchang.com/api/v1/knowledge/claims/798531MCP
get_claim(id=798531)