EfficientNet在OCT视网膜疾病分类中的缩放真相

固定分辨率下EfficientNet在OCT分类中缩放效应非单调,B1优于B7。
该研究系统评估EfficientNet-B0至B7八个ImageNet预训练变体在Kermany SD-OCT数据集上的四分类表现,所有模型固定224×224分辨率,以剥离输入尺寸干扰、单独考察参数量效应。结果显示准确率并非随规模单调上升:B1以96.95%居首,B7仅96.73%,且OCT上的排名与ImageNet层级明显不一致。准确率与参数量比值从19.82骤降至1.48,边际收益急剧衰减。类别层面,Drusen在所有变体中F1最低并贡献了类别F1平方偏差总和的82.2%,难度排序稳定为Normal > CNV > DME > Drusen。训练-测试差距与准确率仅弱相关。作者据此主张,自然图像的缩放规律不能直接平移至医学影像迁移学习,最优模型规模需独立验证。
在医学影像领域,迁移学习已成为视网膜疾病分类的主流范式。一个被广泛默认的假设是:在自然图像上验证有效的模型缩放规律,同样适用于医学图像。然而,一篇针对EfficientNet家族在固定分辨率下进行谱域光学相干断层扫描(SD-OCT)分类的研究,对这个假设提出了有力的反证。

研究设计与实验设置
该研究系统评估了EfficientNet-B0至B7共八个ImageNet预训练变体,在Kermany数据集上进行四分类任务(Normal、CNV、DME、Drusen)。所有模型均在224x224固定分辨率下运行,实例化的骨干参数量跨度从4.05M到64.10M。
数据处理流程值得关注:原始灰度OCT图像被复制为RGB三通道,以适配ImageNet预训练模型的输入要求。训练采用两阶段策略——先冻结骨干网络训练分类头,再进行部分微调。评价指标覆盖分类性能、判别能力、效率以及可视化分析多个维度。
这种固定分辨率、统一预处理流程的设计,剥离了输入尺寸变化带来的干扰,使参数量成为缩放效应的核心变量。
EfficientNet 的复合缩放策略是理解本文缩放实验的前提。EfficientNet 的核心创新在于用一组固定系数(α、β、γ)同时缩放网络的深度、宽度和输入分辨率,并约束 α·β²·γ² ≈ 2,使得每提升一档版本(如 B0→B1)总计算量约翻倍。B0 到 B7 即按此规则逐级放大的八个版本,参数量从约 400 万增至约 6600 万。值得注意的是,这一缩放规则是在 ImageNet 上通过神经架构搜索与网格搜索确定的,其"最优"配置与自然图像的统计特性深度绑定。本文将所有变体固定在 224×224 分辨率,实际上只保留了深度与宽度两个缩放维度,切断了分辨率缩放这一环,这正是其能够单独考察参数量效应的设计基础。
核心发现:准确率并非随规模单调上升
实验结果打破了"越大越好"的直觉。测试准确率从B0的95.93%到B1的96.95%,呈现非单调变化;B7达到96.73%,并未超越B1。
在关键的Drusen类别上,B1取得了最高的F1分数(0.8780),而B7的Drusen F1为0.8720,但拥有最高的Drusen召回率(0.9177)。这说明更大模型在召回与精确率之间做出了不同权衡,而非全面提升。
一个更具冲击力的对比是:该研究的OCT准确率排名与ImageNet上的报告层级明显不同——在ImageNet上B7排名第一,而在本任务中B7仅表现出"二次准确率回升"。研究者据此指出,缩放效应依赖于具体任务和训练协议。
Kermany 数据集(也称 OCT2017)是视网膜 OCT 分类中最常用的公开基准之一,由 Kermany 等人于 2018 年随论文发布,包含 Normal、CNV、DME、Drusen 四类 SD-OCT 图像,总量约八万余张。该数据集的一个常被讨论的问题是:图像来自少数患者,且官方划分中可能存在同一患者的不同切片分散于训练集与测试集的情况,即所谓的"跨分区重复样本"。若同一患者的图像同时出现在训练和测试中,模型可能通过记忆患者特有的解剖特征而非病理特征获得虚高准确率。这正对应本文作者所坦诚的局限——其结果以所用数据划分为条件,跨分区泄漏尚未经过独立审计。因此,文中 95% 以上的准确率应理解为在该划分协议下的相对比较,而非绝对泛化能力的度量。
效率代价与类别难度分布
准确率与参数量的比值从19.82骤降至1.48(百分点每百万总参数),意味着模型规模扩大带来的边际收益急剧衰减。B7虽然出现了准确率的二次回升,但代价是更高的CPU延迟。
类别层面的分析揭示了另一条规律:Drusen在所有变体中F1最低,并贡献了类别F1平方偏差总和的82.2%。类别难度排序始终保持Normal > CNV > DME > Drusen。这一稳定排序提示,某些病理类型的视觉特征本身更难被当前架构充分捕获,模型缩放并不能改变这一基本面。
另一个值得注意的观察是:最终训练-测试差距与测试准确率之间仅存在弱且不显著的关联(r = 0.26,p = 0.53)。这削弱了"泛化差距大导致性能差"的简单解释。
类别 F1 平方偏差总和是本文用于量化"难度集中在哪一类"的指标。其计算方式大致为:对每个类别,计算各模型在该类上 F1 分数相对其均值的偏差平方,再对所有模型求和;四个类别各自得到一个总和,再计算每一类占总和的百分比。若某一类贡献了绝大部分偏差,说明模型规模变化主要影响的是这一类的表现,其余类别则相对稳定。本文中 Drusen 贡献 82.2%,意味着缩放带来的性能波动几乎都集中在 Drusen 上,而 Normal、CNV、DME 的表现对模型大小不敏感。这一指标的价值在于,它把"整体准确率"这一标量拆解为类别层面的方差来源,从而揭示缩放收益的具体落点,而非仅停留在平均值比较。
对医学影像实践的启示
这项研究传递了几个务实的信号。对于SD-OCT分类任务,中等规模的EfficientNet-B1在准确率和Drusen F1上均表现最佳,是性价比最高的选择。盲目追求更大模型不仅收益有限,还会增加推理延迟。
研究者同时坦诚了局限:由于跨分区重复样本尚未经过独立审计,结果以所用数据划分为条件。这提醒实践者在复现或部署时需关注数据划分的可靠性。
更广义地看,自然图像上的缩放规律不能直接平移至医学影像迁移学习场景。固定分辨率下的医学图像任务,其最优模型规模需要独立验证,而非沿用ImageNet的经验排序。
相关推荐

Agent Clan:用隔空手势同时指挥多个AI编程助手
Agent Clan 将 Claude Code 和 Codex 代理变成屏幕上的3D团队,支持握拳召唤、捏选、左右拖拽审批权限,手势与语音本地运行,Mac和Windows免费使用。

Inkling 2 Small:会“看”也会改的594B MoE模型
Thinking Machines Lab 发布 Inkling 2 Small,594B 参数 MoE 模型仅激活 17B,主打能看见并优化自身产出的长周期编程与视觉任务,通过 Tinker 平台提供推理和微调。

Sage2:实时语音转结构化数据,开发者API新选择
Levanto Labs 推出 Sage2 API,可将实时语音转化为结构化数据,支持流式决策跟踪用户意图,适用于客服、语音助手等场景。Product Hunt 获 99 票。