Verified65% confidenceFactExact time
LoRA将对权重矩阵的全量更新分解为两个低秩矩阵的乘积，训练时只更新这两个小矩阵，原始权重保持冻结
3
Sources
65%
Confidence
Long-term
Relevance
7/17/2026
First Seen
Sources
Related Claims
VerifiedLoRA将权重更新矩阵ΔW分解为两个秩远低于原矩阵的小矩阵A和B之积，参数量可缩减至原来的万分之一甚至更少84% similarVerifiedLoRA微调时冻结原始模型参数不动，只更新插入的低秩矩阵，显存需求和训练成本大幅降低78% similarUnverifiedLoRA 利用 SVD 的低秩近似原理，将大型权重矩阵的增量更新分解为两个低秩矩阵的乘积，从而将可训练参数量从数十亿压缩至数百万量级77% similarUnverifiedUnsloth 微调框架能够将 LoRA/QLoRA 微调的速度提升 2 倍以上，同时将显存占用降低约 60%65% similarUnverifiedPEFT技术的核心思想是不更新全部参数，而是引入少量可训练的适配器参数（如LoRA的低秩矩阵分解），降低显存和计算需求同时保留接近全量微调的效果64% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/547411API
curl https://kongchang.com/api/v1/knowledge/claims/547411MCP
get_claim(id=547411)