ConceptDeep Supervision
深度监督
在神经网络中间层引入额外监督信号的训练技巧,通过多尺度损失联合优化缓解梯度消失,提升浅层特征学习效果
Timeline (last 90 days)
Sep 16
第一轮优化中Agent给出的改动集中在方向卷积、深度监督及训练策略上,mIoU从0.817提升到0.82
Unverified50%
Sep 16
深度监督(Deep Supervision)是一种在网络中间层引入额外监督信号的训练技巧,最早在GoogLeNet等模型中被广泛采用
Unverified50%
Sep 16
深度监督在语义分割任务中通常以主损失加权求和辅助损失的形式实现,辅助损失权重在训练后期往往逐步衰减
Unverified50%
Sep 16
第三轮组合实验涉及方向卷积、深度监督、EMA、ASPP四个方向,理论上有16种组合,作者做到第13组停止
Unverified50%