待验证50% 置信观点精确时间
基于NTK的线性化仅在小权重更新时成立,而LoRA适配矩阵的更新幅度未必足够小,因此线性化可能无法捕捉LoRA的真实机制。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
有限秩瓶颈:LoRA低秩适配的理论新解
rss2026/10/16
涉及实体
相关事实
待验证LoRA的低秩假设构成容量上限,当新模态所需特征变换不能被低秩矩阵有效捕捉时会限制模型表达力65% 相似待验证核诱导几何下的收缩性只通过一个线性修正项进入收敛界,而非主导项64% 相似待验证该研究的核心结论是:仅协变量分布本身不够光滑,就足以拖慢CATE逐点估计的收敛速度,而不需要处理效应函数或冗余函数变得更粗糙。64% 相似待验证LoRA使用缩放因子alpha/r对更新量进行缩放,调整r时不需要大幅重新调优学习率,降低超参数搜索成本。63% 相似已验证PEFT技术的核心思想是不更新全部参数,而是引入少量可训练的适配器参数(如LoRA的低秩矩阵分解),降低显存和计算需求同时保留接近全量微调的效果62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1069410API
curl https://kongchang.com/api/v1/knowledge/claims/1069410MCP
get_claim(id=1069410)