LoRA微调DINOv3实现声呐目标识别：一次高效适配足矣

水下目标识别的深度学习困境

合成孔径声呐（SAS）的自动目标识别（ATR）是现代海军侦察能力的关键支撑，但把深度学习搬到这个场景并不容易。研究者在这篇arXiv论文中直指三大痛点：目标图像样本稀缺、背景杂波严重、以及仍需人工介入的评估流程（human-in-the-loop）。这些约束让常规的端到端深度学习训练难以奏效。

更棘手的是水下声学传播的特殊性——自然图像预训练的视觉模型与声呐图像之间存在巨大的域差距。岩石、沉积物等自然形态在声呐图像中常常「伪装」成人造目标，构成难以区分的声学干扰（acoustic mimics）。如何在数据稀缺的前提下让模型学会区分真假目标，是这项工作试图回答的核心问题。

三阶段参数高效适配框架

研究团队将DINOv3 Vision Transformer（ViT）模型迁移到水下SAS ATR任务，设计了一套三阶段的参数高效框架：

阶段一：LoRA冻结主干微调

第一阶段冻结整个ViT主干网络，仅通过低秩适配（LoRA）进行微调，用来弥合自然图像预训练与水下声学传播之间的鸿沟。这是整套方案里贡献最大的一步。

LoRA（Low-Rank Adaptation）是2021年由Hu等人提出的参数高效微调方法，核心思想是：预训练模型的权重更新矩阵在下游适配时具有较低的内在秩，因此可以用两个小矩阵的乘积来近似。具体做法是在Transformer的注意力权重矩阵旁并联一对低秩矩阵 $A$（$d\times r$）和 $B$（$r\times d$），其中秩 $r$ 远小于原始维度 $d$；训练时冻结原始权重，只优化 $A$ 和 $B$。Rank 4意味着这对矩阵仅引入极少量参数，却能在子空间上捕捉任务相关的特征偏移。在视觉领域，LoRA已被广泛用于将大规模预训练ViT适配到医学影像、遥感等小样本专业域，其优势在于显著降低过拟合风险，同时保留预训练骨干学到的通用特征表示。

阶段二：难负样本挖掘

第二阶段引入难负样本挖掘（hard-negative mining），针对那些形似人造目标的岩石、沉积物结构强化决策边界，目的是让模型对「声学模仿者」更加敏感。

阶段三：监督对比学习

第三阶段采用监督对比学习（SupCon），进一步在表征空间中把目标与杂波分离开来，理论上能获得更清晰的类别几何结构。

监督对比学习（Supervised Contrastive Learning，SupCon）由Khosla等人于2020年提出，是对自监督对比学习（如SimCLR）的有监督扩展。其损失函数将同类样本的编码表示相互拉近、将不同类样本推远，从而在特征空间中形成紧凑且分离的类别簇，而非依赖单一的分类超平面。与交叉熵损失相比，SupCon鼓励模型学习更具泛化性的几何结构，对类内方差较大或类间相似度较高的任务理论上更具优势。然而，其效果高度依赖于特征空间在进入该阶段前尚未充分整理——若前序阶段已将特征对齐，SupCon能提供的额外几何调整空间就所剩无几，这正是本文观察到零结果的根本原因。

实验设计：严谨的对照与统计

评估基于真实海上采集的SAS数据，采用任务级地理划分（mission-level geographic split），避免同一区域数据泄漏到训练与测试两端。所有实验分支统一在85%测试召回率下对比，并在三个随机种子上重复，以保证结果的统计可靠性。

这种设计值得肯定——它没有停留在单点指标的比较，而是通过多种子重复和均值±标准差的形式，让每一阶段的真实贡献可以被量化验证。

任务级地理划分（mission-level geographic split）是声呐ATR评估中的重要方法论选择。由于SAS图像采集时，同一地理区域会在训练轮次中多次出现，若按图像随机划分，训练集与测试集可能共享相同的海底地形、沉积物纹理乃至相同目标物的不同视角，导致模型性能被高估。地理划分强制要求测试集来自训练时从未见过的海域，更真实地模拟部署场景中的域转移压力。相比之下，自然图像基准（如ImageNet分类）通常不存在这种空间相关性问题，因此声呐研究若直接沿用随机划分，结论的实际价值会大打折扣。本文采用此划分方式，使实验结论对真实部署具有更强的参考意义。

关键结论：LoRA是主效应，堆叠精调是幻觉

实验数据讲述了一个颇具启发性的故事。LoRA承担了绝大部分性能提升：在同一冻结主干下，精确率-召回率曲线下面积（AUPRC）从0.300提升到0.679±0.027。更惊人的是，秩为4（Rank 4）的配置仅训练了0.26%的权重就达成了这一结果——参数效率极高。

然而，后续两个精调阶段几乎没有带来额外收益。难负样本挖掘相较同等规模的随机课程，AUPRC变化仅为-0.0045±0.0119；而SupCon相较前一阶段的AUPRC变化为+0.0002±0.0096。两者都在误差范围内，属于统计上的「零结果」（null results）。

研究者对此给出了合理解释：难负样本挖掘发生在编码器已经拟合过的数据上，因而无法提供新的学习信号；而监督阶段实际上已经建立了大部分目标-杂波的几何结构，SupCon再无用武之地。

对工程实践的启示

这篇工作的价值不只在于取得了SOTA式的数字提升，更在于它诚实地报告了「什么不起作用」。结论清晰而克制：一个高效的适配阶段就已足够，堆叠式的精调并不划算。

对资源受限的实际部署而言，这是一个务实的信号——与其盲目叠加复杂的训练技巧，不如把LoRA这类参数高效方法用好。用0.26%的可训练权重换来AUPRC翻倍以上的提升，对边缘设备和快速迭代的军用/民用声呐系统都极具吸引力。

这也再次印证了近期迁移学习领域的一个共识：在数据稀缺的专业域，选对适配范式往往比堆叠训练流程更重要。