Unverified60% confidenceFactExact time
LoRA 利用 SVD 的低秩近似原理，将大型权重矩阵的增量更新分解为两个低秩矩阵的乘积，从而将可训练参数量从数十亿压缩至数百万量级
2
Sources
60%
Confidence
Long-term
Relevance
7/21/2026
First Seen
Sources
Related Claims
VerifiedLoRA将对权重矩阵的全量更新分解为两个低秩矩阵的乘积，训练时只更新这两个小矩阵，原始权重保持冻结77% similarVerifiedLoRA将权重更新矩阵ΔW分解为两个秩远低于原矩阵的小矩阵A和B之积，参数量可缩减至原来的万分之一甚至更少75% similarVerifiedLoRA微调时冻结原始模型参数不动，只更新插入的低秩矩阵，显存需求和训练成本大幅降低68% similarUnverified强行取极值样本会引入离群点，迫使SVM构建更复杂的决策边界，高阶poly核在这种数据上收敛更慢68% similarUnverified完整雅可比矩阵的计算代价是O(m×n)次前向传播，实际应用中研究者通常采用随机化SVD或Lanczos迭代等算法近似计算其低秩分解64% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/575972API
curl https://kongchang.com/api/v1/knowledge/claims/575972MCP
get_claim(id=575972)