待验证50% 置信事实精确时间
对于d×d的权重矩阵，LoRA将其分解为两个低秩矩阵A（d×r）和B（r×d），可训练参数从d²降至2dr，其中秩r通常取8、16或64。
1
来源数
50%
置信度
长期有效
时效性
2026/10/28
首次发现
来源
涉及实体
相关事实
已验证LoRA将权重更新矩阵ΔW分解为两个秩远低于原矩阵的小矩阵A和B之积，参数量可缩减至原来的万分之一甚至更少75% 相似已验证LoRA将对权重矩阵的全量更新分解为两个低秩矩阵的乘积，训练时只更新这两个小矩阵，原始权重保持冻结74% 相似待验证LoRA 利用 SVD 的低秩近似原理，将大型权重矩阵的增量更新分解为两个低秩矩阵的乘积，从而将可训练参数量从数十亿压缩至数百万量级73% 相似待验证LoRA将权重更新表示为ΔW = BA，其中B和A为低秩矩阵，秩r远小于min(d,k)，训练时只更新A和B，冻结原模型参数。72% 相似待验证低秩参数化将协方差矩阵分解为低秩因子加对角矩阵形式，使参数量从O(d²)降至O(dr)69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1108781API
curl https://kongchang.com/api/v1/knowledge/claims/1108781MCP
get_claim(id=1108781)