重新思考3D医学自监督学习中的子体采样策略

随机裁剪：被忽视的3D医学自监督学习瓶颈

在3D医学影像的自监督学习（SSL）中，预训练阶段普遍依赖随机子体采样（random sub-volume sampling）。这种做法看似简单高效，却隐含了一个值得质疑的假设：所有空间区域都被当作同等重要、同等值得观察的对象。

然而医学影像的实际情况并非如此。人体解剖结构存在先天的空间先验，不同区域之间也存在大量的空间冗余。换句话说，并非每一个被裁剪出来的子体都对表征学习具有相同的价值。随机裁剪把这种内在的不平等彻底抹平了。

这项研究的出发点正是对这一惯性做法的反思——在3D医学SSL中，"看哪里"（where to look）可能比我们想象中更重要。

自监督学习（SSL）在医学影像中的核心思路是：利用大量无标注数据，通过设计预训练任务让模型自动学习有意义的表征，再将这些表征迁移到标注数据稀缺的下游任务（如器官分割、病灶检测）。3D医学影像（如CT、MRI）体积庞大，通常无法整体送入GPU，因此预训练时普遍采用"裁剪子体（sub-volume）"的方式：从原始体积中随机截取若干三维小块作为输入。这一做法沿袭自2D图像的随机裁剪增广，在自然图像场景中效果良好，但医学影像中人体解剖结构高度规律——骨骼、器官、血管均有固定的空间分布——导致不同位置的子体在语义价值上差异显著。例如，大量裁剪到空气、脂肪或骨骼外缘等低信息区域，对模型学习临床相关表征几乎没有贡献，却占据了相当比例的训练计算量。

更好的子体带来更好的下游迁移

研究团队首先通过一组受控的"裁剪质量操纵"实验，验证了一个核心观察：更优质的子体能够带来更好的下游任务迁移性能。

这个发现看似直觉，却具有重要的方法论意义。它表明，采样策略（observation policy）本身是3D医学SSL中一个长期被忽视的性能瓶颈。过去的研究大多聚焦于改进模型架构、损失函数或增广策略，而对"从哪里采样"这个最前端的环节关注不足。

既然观察策略如此关键，作者自然地将子体采样问题重新框定为一个**"看哪里"（where-to-look）的问题**，而不是简单的随机坐标抽取。

从随机裁剪到探针库：方法设计

基于上述洞察，研究提出了一个即插即用（plug-and-play）的框架，用一个**离线的粗到精（coarse-to-fine）探针库（probe bank）**来替代传统的随机裁剪。

这个探针库的构建由三个核心原则驱动：

• 解剖感知（anatomy-awareness）：采样应当尊重人体解剖结构的分布规律，优先观察解剖上合理的区域。
• 信息量（informativeness）：优先选择信息丰富、对表征学习更有价值的子体。
• 多样性（diversity）：避免反复采样相似区域，确保观察覆盖的广度。

为了验证不同层次先验的作用，作者设计了两个变体：

轻量变体：几何与图像统计线索

轻量版本仅依赖几何信息与图像统计线索来构建探针库。这种设计的优势在于计算开销小、无需额外的语义模型，属于"体积内在先验"（volume-intrinsic priors）的范畴。

诊断变体：冻结视觉特征

另一个诊断性的变体则使用冻结的视觉特征（frozen visual features）来引入更丰富的语义线索。它的作用更偏向于回答一个研究性问题：轻量级的内在先验是否已经足够，还是更丰富的语义信息能可靠地提供额外价值？

这种对照设计让整个框架不仅是一个工程方案，也成为探究采样策略本质的分析工具。

"粗到精（coarse-to-fine）"是一种常见的分层处理策略：先在低分辨率或低计算代价的层次做粗略筛选，再在高分辨率或高代价的层次对候选结果精细化。在探针库的构建语境中，"粗"阶段通过解剖先验与图像统计快速排除低价值区域（如体外空气、均质背景），"精"阶段则在筛选后的候选区域中进一步依据信息量与多样性选取最终子体坐标集合。这种设计使探针库的构建可以在预训练开始前离线完成一次，训练时直接按库中坐标采样，几乎不带来在线计算额外开销。"即插即用"则意味着该框架不改变SSL主干网络的结构和损失函数，仅替换采样模块，因此可以无缝集成到MAE、SimCLR、DINO等任意现有的SSL流程中。

"冻结视觉特征"指的是使用一个预先训练好的视觉模型（如在大规模自然图像或医学图像上训练的ViT、ResNet等）提取特征，但在构建探针库的过程中不对该模型的参数进行任何更新（即"冻结"）。其输出特征仅作为衡量子体语义丰富度的评分信号，而不参与SSL主训练的反向传播。引入这一变体的目的在于设立一个"语义信息上限"的对照基线：如果连携带丰富语义的冻结特征也未能带来显著超越轻量变体的性能，则表明几何与图像统计线索已经捕获了采样决策所需的大部分有效信息，进一步引入重量级语义模型的边际收益有限。这种对照设计将工程改进与科学问题分析融为一体。

实验结果与机理分析

研究在多个3D医学SSL骨干网络和多种下游任务上进行了广泛实验。结果显示，轻量变体相比随机采样能够持续稳定地提升迁移性能——这意味着即便不引入重量级的语义特征，仅凭几何与图像统计线索构建的探针库就足以带来实质性收益。

更有价值的是，研究还通过机理分析解释了性能提升的来源，将其归因于以下几个方面：

• 观察到的区域在解剖学上更合理、信息量更高；
• 空间冗余显著减少，模型不再反复学习重复或低价值的区域；
• 学习动态更高效，收敛过程更顺畅；
• 学得的表征结构更有组织性。

这些分析不仅停留在"性能更好"的层面，而是进一步揭示了"为什么更好"，使结论更具说服力。

对3D医学AI的启示

这项工作的意义超出了一个具体方法本身。它提醒整个领域：在追逐更复杂的模型与目标函数时，不应忽视数据观察这一最基础的环节。对于以解剖结构为核心、空间冗余普遍存在的医学影像而言，"看哪里"确实很重要。

由于该框架是即插即用的、且轻量变体几乎不增加额外负担，它在实际应用中具有较好的落地潜力，可以被方便地集成到现有的3D医学SSL流程中，为预训练质量提供一个成本低廉的提升路径。