[控场AI]
· 6 分钟阅读· 3,009 字

区域感知SE模块:突破图像分割的通道注意力瓶颈

区域感知SE模块:突破图像分割的通道注意力瓶颈

论文用区域感知池化替换SE的全局池化,提出四种模块提升密集预测性能。

该文针对Squeeze-and-Excitation(SE)模块在图像分割等密集预测任务中的先天局限展开分析:SE依赖全局平均池化将空间信息压缩为单一标量,丢失了区域级语义差异,无法区分同一通道在不同区域的重要性。作者的解决方案是以空间引导池化替代全局池化,提出四种互补模块:BASE用规则网格分块压缩,SPASE借助SLIC超像素生成图像自适应区域,MAPSE复用冻结网络的语义地图定义区域,PLEASE则通过轻量分配网络端到端学习软区域归属,并在前向传播中顺带输出可解释的软分配结果。四者在计算代价上各有权衡,从几乎不增加参数到不引入可测量延迟。在CUB、DUTS、ECSSD、PASCAL VOC 2012、ADE20K和mini-ImageNet等多项基准上,这些模块多数取得最优结果,证明区域感知池化是跨任务通用的设计原则。

当通道注意力遇上密集预测:SE模块的先天局限

Squeeze-and-Excitation(SE)模块自提出以来,一直是卷积神经网络中建模通道依赖关系的经典手段。它通过全局平均池化将每个通道的空间信息压缩为单一标量,再据此学习通道间的重标定权重。这种设计在图像分类任务上表现优异,但在图像分割这类密集预测任务中却暴露出一个根本性矛盾:全局平均池化将丰富的空间结构坍缩为一个单描述子,丢失了区域级别的语义差异。

换句话说,当一张图像中同时包含天空、建筑和行人时,SE模块只能给"特征通道"打一个全局分数,而无法区分同一通道在不同区域的重要性。这正是该研究试图解决的核心问题。

Region Aware Squeeze-and-Excitation Networks for Image Segmentation

Squeeze-and-Excitation(SE)模块由Hu等人于2018年在CVPR提出,是通道注意力机制的代表性工作。其结构分为两步:Squeeze阶段对每个通道的特征图做全局平均池化(GAP),得到一个长度等于通道数的向量;Excitation阶段通过两层全连接(中间带ReLU和Sigmoid)学习每个通道的缩放权重,再与原始特征逐通道相乘。这一设计让网络能够自适应地强调重要通道、抑制无用通道,以极小参数量换取了显著的分类精度提升,并成为SENet夺得ILSVRC 2017冠军的关键组件。

密集预测(dense prediction) 是与图像分类相对的一类任务,要求对输入图像的每个像素都给出预测结果,典型代表包括语义分割、实例分割、边缘检测、深度估计和显著性检测等。与分类只需输出单一图像级标签不同,密集预测对空间分辨率与局部结构极为敏感,特征图上每一位置的响应都直接决定该像素的类别或数值。因此,任何过度压缩空间维度的操作(如GAP)都会对这类任务造成信息损失。

四个互补模块:从固定网格到端到端软分配

论文的核心贡献在于将SE中的全局池化替换为空间引导池化,从而实现区域感知的通道重标定。作者提出了四种模块,每种在计算代价和自适应能力上各有取舍:

BASE:规则网格上的分块压缩

BASE(Tiled Squeeze-and-Excite)用规则网格将特征图划分为若干图块,每个图块独立执行SE操作。这是最直接的推广方式,几乎不增加额外参数,但区域划分是固定的,无法适应图像内容。

SPASE:超像素驱动的图像自适应区域

SPASE利用SLIC超像素算法在图像层面生成区域划分,使池化区域与真实物体边界更加对齐。相比固定网格,它能更好地贴合图像中的语义边界,代价是需要预先计算超像素分割。

SLIC(Simple Linear Iterative Clustering) 是Achanta等人于2012年提出的经典超像素分割算法。它把图像从RGB空间转换到CIELAB颜色空间并加入像素坐标(x, y)构成五维特征,在此空间执行改进的k-means聚类,通过限制搜索范围到局部邻域,使算法复杂度与像素数呈线性关系。SLIC生成的超像素大小均匀、边界贴合物体轮廓,且参数极少(主要只需指定期望的超像素数量),因此被广泛用作语义分割、显著性检测等任务的预处理步骤。SPASE正是借助SLIC的超像素边界替代固定网格,使每个池化区域更可能落在同一语义物体内部,从而让通道重标定权重与真实物体区域对齐,减少跨类别区域的混叠。

MAPSE:借助冻结网络的语义地图

MAPSE从冻结的通用网络中获取语义地图,并以此定义池化区域。这种方法不需要额外训练分割网络,直接复用已有模型的语义理解能力,适合快速部署场景。

PLEASE:端到端学习软区域分配

PLEASE通过一个轻量级分配网络端到端学习软区域归属。每个通道在每个区域获得一个门控值,因此每个像素的注意力反映其区域成员关系,在通道注意力和空间注意力之间架起桥梁。更巧妙的是,PLEASE在前向传播过程中顺带产出软分配结果,无需事后分析即可提供结构化的空间可解释性。

软分配(soft assignment) 与硬分配相对,指每个像素并非被强行划归唯一区域,而是对各个区域赋予归一化的隶属度(如经Softmax得到的概率)。这种表示允许一个像素同时部分属于多个区域,特别适合处理物体边界处的混合像素,也使得分配过程可微、可端到端训练。PLEASE正是采用这种机制:分配网络为每个像素输出一组区域归属权重,通道注意力则依据这些权重对特征做区域感知的加权池化。硬件分配则对应BASE、SPASE这类预先确定、不可学习的区域划分。由于软分配权重在推理时同步产出,模型无需额外的后处理或归因分析即可展示每个通道关注的区域,这也是PLEASE具有结构化可解释性的根本原因。

计算代价的分化设计

这四个模块在计算开销上形成了互补:

  • BASE和SPASE几乎不增加可学习参数,适合对模型体积敏感的场景
  • MAPSE依赖已有冻结网络,推理开销可控
  • PLEASE引入轻量分配网络,但论文指出其增加的计算延迟在可测量范围以下

这种设计思路让研究者和工程师可以根据具体部署约束灵活选择,而非被迫接受单一方案。

实验验证:多基准上的系统性优势

论文在多个任务和数据集上进行了验证:

二值分割:CUB、DUTS、ECSSD 语义分割:PASCAL VOC 2012、ADE20K 分类:mini-ImageNet

结果显示,这四个模块在大多数基准上超越了原始SE模块及相关的空间-通道注意力变体,取得了多数最优结果。这一跨任务的一致性表明,区域感知池化并非针对某一特定数据集的特化技巧,而是具有通用性的设计原则。

为什么这值得关注

从工程视角看,这项工作提供了一个务实的改进路径:不需要重新设计骨干网络,只需替换SE模块中的池化策略,就能在分割任务上获得稳定提升。从研究视角看,它揭示了通道注意力与空间注意力并非对立的两条路线——通过区域成员关系这一中间表示,二者可以自然融合。PLEASE模块自带的可解释性输出也为注意力机制的可视化分析提供了新思路。

对于正在构建分割系统的开发者而言,MAPSE和SPASE可能是最低成本的升级选项;而对于追求极致性能的场景,PLEASE的端到端学习能力值得进一步探索。

通道注意力与空间注意力 是注意力机制的两条主线。通道注意力(如SE、ECA)学习"哪些特征通道重要",输出一个通道维度的权重向量,对所有空间位置共享;空间注意力(如CBAM中的空间分支、Non-local)学习"哪些位置重要",输出与特征图同尺寸的空间权重图,对所有通道共享。二者各有侧重:前者擅长筛选语义信息,后者擅长定位关键区域。区域感知池化提供了一种中间路径——通过为每个通道在多个区域上分别计算权重,模型同时获得了通道选择性与空间选择性,相当于在通道注意力框架内嵌入了区域级的空间结构,从而在密集预测任务上兼顾了两者的优势,而无需显式堆叠两种注意力模块。

#区域感知SE#图像分割#通道注意力#Squeeze-and-Excitation#空间引导池化#语义分割#PLEASE模块
分享:

相关推荐