超越多阶段Pipeline：标签相关性集成模型提升视网膜疾病分类

视网膜眼底图像常常同时携带多种疾病标签，而公开数据集存在异质性和严重的long-tail分布。临床上，分诊流程倾向于采用分阶段设计：先通过screening gate进行筛查，再由disease-group router路由到特定疾病组的分类器。但这种层次化结构是否真的值得其复杂性？一项新的研究通过受控对比实验给出了否定答案，并提出了更优的标签相关性集成方案。

研究背景与实验设置

该研究构建了一个统一的39目标标签空间，整合了RFMiD 1.0、RFMiD 2.0和ODIR-5K三个公开数据集，共计12,652张图像。在这个统一空间上，研究者对比了三种架构：

• 三阶段门控级联：包含8个模型，依次为screening gate、disease-group router和组特异性分类器，模拟临床分诊的层次化设计。
• 扁平模型：39个独立的sigmoid输出，直接预测每个标签。
• 标签相关性模型：用39个可学习的label queries和两层transformer decoder替换扁平线性头，显式建模标签之间的依赖关系。

所有模型共享同一个Swin-V2-B backbone、相同的预处理流程和训练协议，确保性能差异仅来自架构设计。

long-tail分布指数据集中各类别样本数量极不均衡，少数头部类别占据大部分样本，而大量尾部类别样本稀少。在医学图像领域，罕见病标签天然呈现这种分布，导致模型对尾部类别学习不足、召回率低。本文中，39个目标标签的支持度差异显著，正是long-tail问题的典型体现，这也是评估模型时需关注macro-F1和低支持度类别性能的原因。

macro-AUC是AUC（ROC曲线下面积）的宏平均版本，先对每个类别单独计算AUC，再对所有类别取算术平均。与micro-AUC（将所有类别的预测合并计算）不同，macro-AUC平等对待每个类别，因此对尾部类别性能更敏感。本文中门控级联的macro-AUC被压低至0.747，正是因为硬零输出严重损害了部分类别的排序能力。

分阶段设计没有一致优势

实验结果显示，三阶段门控级联并未带来预期的收益。通过追踪每个漏检疾病实例到导致丢失的阶段，研究者发现两个粗粒度门控（screening gate和router）丢弃了34.2%的真实实例，而细粒度分类器仅丢失6.7%。门控的硬零输出还压低了级联模型的macro-AUC至0.747。

这一发现挑战了临床分诊中层次化设计的直觉：在数据驱动的模型中，粗粒度过滤造成的召回损失远大于其带来的效率提升。

标签相关性建模带来最大单次增益

将扁平线性头替换为标签相关性模型后，检测率从0.621提升至0.682（使用测试时增强后达到0.689）。这是所有单次改进中幅度最大的。标签相关性模型通过transformer decoder学习标签之间的共现模式，有效利用了疾病之间的关联信息。

Transformer decoder最初用于序列到序列生成任务，通过多头自注意力机制建模序列元素间的依赖关系。在本文的标签相关性模型中，39个可学习的label queries作为decoder的输入，每个query对应一个标签，通过自注意力层相互交互，从而显式学习标签之间的共现模式（如糖尿病视网膜病变与黄斑水肿常同时出现）。这种设计将标签预测从独立的sigmoid分类转变为联合推理，是性能提升的关键。

测试时增强（TTA） 是指在模型推理阶段对输入图像施加多种变换（如翻转、旋转、多尺度缩放），对每个变换后的版本分别预测，再集成结果。TTA不改变模型参数，仅通过增加预测的多样性来提升鲁棒性和准确率。本文采用四视图TTA，将标签相关性模型的检测率从0.682进一步提升至0.689，并在最终集成配置中发挥了作用。

集成策略与最终配置

在四视图测试时增强下，将扁平模型与标签相关性模型进行集成，在八项指标中的六项上取得了最佳配置：exact match 0.694、micro-F1 0.678、macro-F1 0.456、macro-AUC 0.972。

研究还发现，将门控级联与连续输出模型集成是有害的，因为门控的硬零输出与连续概率不兼容。此外，按数据来源进行负采样是必要的，否则模型会利用数据集捷径产生虚假的AUC 1.000。

负采样在本文语境下指在训练时对负样本（即不包含某标签的图像）进行筛选或调整采样策略。由于三个公开数据集（RFMiD 1.0、RFMiD 2.0、ODIR-5K）的标注规则和疾病 prevalence 不同，模型可能利用数据集来源作为捷径——例如某数据集很少标注某疾病，模型便学会“来自该数据集的图像不出现该疾病”，从而产生虚假的高AUC。按数据来源进行负采样，即确保每个来源的负样本在训练中得到适当平衡，迫使模型学习真实的病理特征而非数据集伪影。

与近期研究的对比

在定义匹配的类别子集上，该集成模型在macro-F1和micro-F1上达到或超过了四项近期研究，在低支持度病理类别上优势最为明显。这表明标签相关性建模和合理的集成策略对于long-tail分布下的多标签分类尤为有效。

实践启示

对于多标签医学图像分类任务，简单的扁平模型配合标签相关性建模和测试时增强，可能比精心设计的多阶段pipeline更有效。分阶段设计需要谨慎评估其召回损失，尤其是在粗粒度门控可能丢弃大量真实阳性实例的情况下。同时，跨数据集训练时必须注意数据来源偏差，采用按来源负采样等策略避免虚假性能。