概念LoRA Plus
LoRA+
LoRA的增强版本训练方法，通过差异化学习率设置提升微调效果
时间轴 (近 90 天)
10月12日
Unsloth v0.1.906 新增 LoRA+ 训练（通过 loraplus_lr_ratio 设置）以及对 GPTQ 模型的 LoRA 微调支持。
待验证50%
10月11日
QLoRA 通过量化降低基座显存占用，DoRA 分离幅度与方向，LoRA+ 为两个矩阵使用不同学习率，PiSSA 通过奇异分量改变初始化
待验证50%
LoRA的增强版本训练方法，通过差异化学习率设置提升微调效果
Unsloth v0.1.906 新增 LoRA+ 训练（通过 loraplus_lr_ratio 设置）以及对 GPTQ 模型的 LoRA 微调支持。
QLoRA 通过量化降低基座显存占用，DoRA 分离幅度与方向，LoRA+ 为两个矩阵使用不同学习率，PiSSA 通过奇异分量改变初始化