待验证50% 置信事实精确时间
LoRA 的低秩矩阵 A、B 中的数值是稠密的，每个参数承载混合功能信号，直接查看适配器权重难以读出模型学到了什么。
1
来源数
50%
置信度
长期有效
时效性
2026/10/26
首次发现
来源
涉及实体
相关事实
已验证LoRA通过在模型权重矩阵旁插入低秩分解矩阵来实现微调，通常只需训练原始参数量的0.1%-1%77% 相似已验证LoRA在每个目标权重矩阵旁并联两个低秩矩阵A和B，其中A随机初始化，B初始化为零，仅训练这两个小矩阵，推理时将A×B乘积叠加回原始权重77% 相似已验证LoRA通过在模型权重矩阵中注入低秩分解矩阵来减少可训练参数量，使得在消费级GPU上微调数十亿参数的模型成为可能75% 相似已验证LoRA是以参数高效微调（PEFT）为代表的主流微调方法，核心思想是在不改动原始模型权重的前提下向特定层注入低秩矩阵，只训练新增参数74% 相似已验证LoRA的原理是将微调中权重变化量ΔW分解为两个低秩矩阵的乘积（ΔW = A×B）74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1098407API
curl https://kongchang.com/api/v1/knowledge/claims/1098407MCP
get_claim(id=1098407)