#LoRA
共 27 篇相关文章

MarineSparkLM-4B:轻量级海洋工程语言模型的LoRA实践
MarineSparkLM-4B 基于 OceanGPT-basic-4B-Instruct,通过两次 LoRA 微调在单台 DGX Spark 上构建海洋工程语言模型。指令适配器将人工评分从 42 提升至 84,检索增强后达 88,但绝对准确性仍低。

让LLM变笨?性能节流与可信降智的实证研究
实证研究探讨LLM性能节流的可信度:弱教师LoRA可精确控制分数,但在多项选择中产生token吸引子,错误分布与真实弱模型存在差异,精确控制不等于可移植的可信降智。

LoRA模型短标题跳过首行?原因与解法
LoRA微调模型在短caption下跳过首行输出,导致语法错误。分析训练分布偏移原因,提供约束解码与数据增强解决方案。

大模型微调入门指南:从原理到行业落地实战
从通用大模型的分层结构讲起,系统梳理大模型微调的动机、成本对比与适用场景,并结合本草、LawGPT、FinGPT三个开源案例,说明医疗、法律、金融行业的微调落地路径。

LoRA秩不必统一:模型合并新方法提升多域精度
新研究证明模型合并无需统一LoRA秩:给专家分配不同秩对平均和效用选择方法无损,反获最高1.8个百分点多域精度提升;按损失效应选择成分可避免丢弃指令专家,保持精度稳定。

高质量LoRA训练全流程指南
系统梳理高质量LoRA训练的端到端流程,涵盖数据集构建与清洗、基座模型与超参数选择、正则化图像争议、checkpoint评估与迭代策略,帮助开发者建立可复现的LoRA训练闭环。

LoRA微调溯源签名:黑盒检测扩散模型变体
论文提出一种黑盒溯源协议,利用图像内在维度作为签名,在开放世界场景下检测在线服务是否使用了扩散模型的LoRA变体,区分基础模型、适应版本与其他模型家族。

不改权重也能微调大模型:PEFT、适配器与前缀调优解析
解析 PEFT 参数高效微调三大路线:LoRA、适配器与前缀调优。说明不更新原始权重如何微调大模型、各方法的优劣与选型建议,以及落地时的调参与部署注意事项。

有限秩瓶颈:LoRA低秩适配的理论新解
无需线性化的LoRA理论新框架:冻结骨干诱导的有限秩瓶颈决定了低秩适配的秩上界,迹范数正则化与驻点秩亏从凸与非凸两侧共同解释低秩更新的有效性。

单卡3090微调Qwen:准确率提升为何不够?
单卡RTX 3090微调Qwen3.5的实测复盘:准确率从7/28升至13/28,NLL却从2.215恶化到3.916。揭示标签与问题不匹配、校准缺失、JevBench困难组暴露的泛化短板,以及训练恢复与数据隔离的工程实践。

8GB显存跑MiniMax H3角色替换LoRA:低配显卡的视频生成实测
一位Reddit用户在RTX 4070、8GB显存环境下,使用MiniMax H3模型配合角色替换LoRA完成视频生成实测。本文解析其硬件配置、渲染参数与角色替换LoRA的应用价值,探讨低配显卡玩转AI视频生成的可行性。

Krea 2 写实人像 LoRA 解析:AI 绘图微调的现状
Reddit 社区分享的 Krea 2 写实人像 LoRA 引发关注。本文解析 LoRA 微调技术、Krea 模型生态以及「1girl realism」现象背后的创作逻辑与使用方法。

AI视频生成实战:H3 T2V搭配LoRA打造奇幻战斗场景
一条Reddit分享揭示AI视频生成的组合式创作趋势:H3 T2V模型搭配combat LoRA与spectrum打造奇幻战斗场景。本文拆解T2V、LoRA微调技术及模块化工作流的价值。

Qwen-Image 2.1 数据集生成器:LoRA训练人脸素材新工作流
一位Reddit用户分享了基于Qwen-Image 2.1的LoRA数据集生成工作流,改编自社区方案。文章解析其CFG 3、25步、res_multistep采样器等关键参数,以及双图输入提升人脸身份一致性的实用技巧。

VNCCS PoseStudio:Qwen Image 2.1 姿势控制LoRA发布
VNCCS PoseStudio 为 Qwen Image 2.1 推出首个姿势控制 LoRA,附带完整工作流,已在 Hugging Face 开源发布。本文解析其功能、获取方式与对AI图像创作的实际价值。

MiniMax H3 CrossView-Warp LoRA:一键改变已有视频的运镜与视角
开发者 Cseti 发布 MiniMax H3 CrossView-Warp LoRA,可对已有视频片段修改镜头运动与视角。本文介绍这款开源视频到视频工具的构成、使用方式与技术价值。

ComfyUI 新增 YuE2 LoRA 训练器:音乐生成模型的定制化探索
开发者 filliptm 与 MachineDelusions 合作推出 ComfyUI YuE2 LoRA 训练器,基于自研编码器与分词器脚本,让用户在节点环境中微调 YuE2 音乐生成模型。项目已在 GitHub 开源。

TaoMate H3 三步 LoRA 适配 ComfyUI:加速 MiniMax H3 生图
Reddit 用户将官方 TaoMate H3 3 Step LoRA 转换为 ComfyUI 兼容的 safetensors 格式,无需重新训练即可让 MiniMax H3 在 3 步采样下加速生图。附下载地址与部署方法。

