致密乳腺中显著性图失效？多源审计揭示解释公平性隐患

在医学影像AI领域，显著性图（saliency maps）常被用来证明模型确实关注了病灶区域，而非依赖无关特征。然而，一项针对乳腺X线摄影分类器的研究提出了尖锐质疑：在致密乳腺中，这些解释方法是否依然可靠？该研究通过机会归一化和混杂因素感知的审计框架，首次系统评估了显著性图在致密乳腺中的表现，并揭示了案例混合（case mix）对解释公平性的显著影响。

研究背景：致密乳腺的挑战与解释需求

致密乳腺组织在乳腺X线摄影中会掩盖肿瘤，增加癌症漏诊风险。因此，当AI模型声称“看到了癌症”时，其解释的可靠性在致密乳腺中尤为关键。然而，此前很少有研究专门测试显著性图在致密乳腺中的定位能力。该研究填补了这一空白，并提出了一个关键问题：显著性图在致密乳腺中定位癌症的表现是否更差？如果是，原因是什么？

研究基于CBIS-DDSM数据集的1,345个恶性视图，评估了三种卷积神经网络（CNN）生成的Grad-CAM、积分梯度（Integrated Gradients）和遮挡图（occlusion maps）。评估指标包括峰值是否命中病灶，以及一种经过机会归一化的病灶与背景显著性比值（单位为比特，+1表示显著性翻倍）。

机会归一化（chance normalization） 是一种用于校正解释指标基准值的方法。在显著性图评估中，即使模型没有真正定位病灶，其显著性也并非均匀分布，可能因图像结构或组织密度而产生虚假的高分。机会归一化通过估计在无定位能力时指标的期望值（即“机会水平”），将原始指标减去该基线或进行比值调整，从而得到更纯粹反映模型定位能力的数值。例如，病灶与背景显著性比值以比特为单位，+1 表示显著性翻倍，而机会归一化确保该比值在随机或无关定位时接近零，避免因背景组织本身的显著性差异而高估模型表现。这在比较不同密度乳腺时尤为重要，因为致密组织可能天然具有更高的显著性波动。

主要发现：显著差距与案例混合的影响

未调整的差距很大：Grad-CAM的峰值在致密乳腺中命中病灶的比例为44%，而非致密乳腺中为58%。然而，案例混合——主要是致密乳腺中钙化灶更多——解释了每个差距的一半或更多。这意味着，部分差异并非源于模型对致密乳腺的“歧视”，而是由于病灶类型分布不同。

但遮挡图仍保持了显著的平均-0.56比特差距，表明即使在调整案例混合后，某些解释方法在致密乳腺中仍存在系统性偏差。此外，控制实验也指向分类器本身的问题：未调整的差距超过了仅基于图像显著性的对照图（conspicuity map），且模型对致密乳腺病灶的依赖程度更低。

案例混合（case mix） 指不同组别（如致密与非致密乳腺）中病例特征（如病灶类型、大小、位置）的分布差异。在本研究中，致密乳腺中钙化灶的比例更高，而钙化灶可能更易被某些显著性图定位或更难被定位，从而影响整体指标。案例混合调整通常通过分层分析、匹配或统计模型（如回归）来控制这些混杂因素，以分离出密度本身的效应。例如，若简单比较两组命中率，差异可能部分源于病灶类型不同而非模型对密度的敏感性。因此，调整案例混合是审计解释公平性的关键步骤，能更准确地揭示模型是否对致密乳腺存在系统性偏差。

Grad-CAM 是一种基于梯度的可视化方法，通过计算目标类别得分对最后一个卷积层特征图的梯度，并对特征图进行加权求和，生成粗粒度的定位热图。其优点是无需修改网络结构，适用于多种CNN，但分辨率较低，可能无法精确定位小病灶。积分梯度（Integrated Gradients） 则通过沿基线到输入的路径积分梯度，为每个像素分配归因值，提供更精细的像素级解释，但计算成本较高且对基线选择敏感。遮挡图（occlusion maps） 通过系统性遮挡图像局部区域并观察输出变化来生成显著性，直观但计算量大，且可能受遮挡块大小影响。这些方法原理不同，在致密乳腺中的表现差异可能源于其对纹理和密度变化的敏感度不同。

多源交叉验证：共识与分歧

据B站UP主和YouTube频道的分析，该研究的核心结论——案例混合解释了大量差距，但遮挡图仍存在显著偏差——得到了多方认同。共识在于，解释公平性审计必须考虑案例混合，并建议在调整前后分别报告密度差距。

然而，对于偏差的根源，存在分歧。一方认为，模型对致密乳腺病灶的依赖降低是主要原因；另一方则强调，显著性图本身在高密度组织中的不稳定性可能导致定位失败。唯一来源的见解指出，仅基于图像显著性的对照图无法完全解释差距，暗示模型内部机制可能涉及更复杂的交互。

实践建议：审计框架与报告规范

研究建议，在报告显著性图的公平性时，应遵循以下规范：

• 在案例混合调整前后分别报告密度差距；
• 针对每个分类器单独评估；
• 使用显著性对照图和病灶依赖控制作为基准；
• 优先采用机会归一化的指标，如病灶与背景显著性比值（比特）。

这些建议为医学影像AI的可解释性评估提供了可操作的标准，尤其强调了在致密乳腺等挑战性场景中，简单的显著性图可能不足以证明模型的可靠性。

结论：解释公平性需更严谨的审计

该研究揭示，显著性图在致密乳腺中的表现确实存在差距，但差距的大小和显著性因方法而异。案例混合是重要的混杂因素，但并非全部。遮挡图保留了显著偏差，提示某些解释方法可能系统性低估致密乳腺中的病灶。因此，在临床部署前，对解释方法进行混杂因素感知的审计至关重要。未来，需要更多研究来开发更稳健的解释技术，确保AI在致密乳腺中的决策透明可信。