Unverified50% confidenceFactExact time

LoRA由微软研究院于2021年提出，对权重更新量ΔW进行低秩分解ΔW = A·B，参数量通常可压缩至原来的1/100以下

1

Sources

50%

Confidence

Long-term

Relevance

7/13/2026

First Seen

Sources

BERT新增分类类别：增量微调的三种策略与灾难性遗忘解法

Related Claims

UnverifiedLoRA将微调权重变化量ΔW分解为两个低秩矩阵的乘积，参数量仅为原模型的0.1%~1%，当r=8、d=4096时参数压缩比高达256倍73% similar UnverifiedLoRA（低秩适配）因显著降低显存需求和计算成本，成为当前最流行的模型微调方案66% similar UnverifiedLoRA将可训练参数量从d²降低到2dr，其中r通常为4-6464% similar UnverifiedLoRA等参数高效微调技术可将显存需求降低60%以上61% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/502642

API

curl https://kongchang.com/api/v1/knowledge/claims/502642

MCP

get_claim(id=502642)