[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
网络秩 / 秩
rank
低秩分解矩阵的中间维度,决定LoRA模型可表达的特征容量,秩越大容量越高但过拟合风险也增加
时间轴 (近 90 天)
10月16日
LoRA的参数量、显存占用与优化难度随秩r线性增长,而非随模型宽度平方增长。
待验证
50%
全部知识事实 (1)
待验证
LoRA的参数量、显存占用与优化难度随秩r线性增长,而非随模型宽度平方增长。
50%
来源文章
高质量LoRA训练全流程指南
10月28日