Context Encoders
提出通过图像修复（Inpainting）任务实现自监督特征学习的经典论文，核心思想是训练卷积编码器-解码器网络填补图像缺失区域，从而迫使网络学习图像语义表征，是自监督学习的奠基性工作之一
时间轴 (近 90 天)
论文《Context Encoders: Feature Learning by Inpainting》提出通过图像修复（inpainting）任务实现自监督特征学习
Context Encoder 本质上是一个卷积编码器-解码器结构，编码器将残缺图像压缩成紧凑潜在特征表示，解码器再生成缺失内容
原论文的编码器取自 AlexNet 的前五个卷积层加池化层，一张 227×227 的输入会变成 6×6×256 的表示
Context Encoder 的编码器以随机权重从零开始训练，仅在修复任务上训练，而非为 ImageNet 分类训练
通道级全连接层是 Context Encoders 最核心的架构创新，用于解决卷积层无法连接单张特征图内远距离位置的问题
将一个 256 通道、尺寸 n×n 的特征图用完整 FC 层连接到解码器需要 m²n⁴ 个参数，论文指出会超过一亿参数
带分组的全连接层让每张特征图拥有自己的 n²×n² 权重矩阵，不同特征图互不相连，参数量从 m²n⁴ 降到 m·n⁴
由于通道级 FC 层不混合通道，论文随后接一个 stride-1 卷积来跨通道传播信息
Context Encoders 采用解耦的联合损失函数，包括重建损失（归一化掩码 L2 距离）和对抗损失，分别处理与上下文的连续性和输出的多模态性
重建损失只在空洞内部比较预测与真实值，掩码 M 将网络已看到的像素置零，防止模型通过复制上下文得分
还有 3 条时间轴事件
全部知识事实 (13)
论文《Context Encoders: Feature Learning by Inpainting》提出通过图像修复（inpainting）任务实现自监督特征学习
50%待验证Context Encoder 本质上是一个卷积编码器-解码器结构，编码器将残缺图像压缩成紧凑潜在特征表示，解码器再生成缺失内容
50%待验证原论文的编码器取自 AlexNet 的前五个卷积层加池化层，一张 227×227 的输入会变成 6×6×256 的表示
50%待验证Context Encoder 的编码器以随机权重从零开始训练，仅在修复任务上训练，而非为 ImageNet 分类训练
50%待验证通道级全连接层是 Context Encoders 最核心的架构创新，用于解决卷积层无法连接单张特征图内远距离位置的问题
50%待验证将一个 256 通道、尺寸 n×n 的特征图用完整 FC 层连接到解码器需要 m²n⁴ 个参数，论文指出会超过一亿参数
50%待验证带分组的全连接层让每张特征图拥有自己的 n²×n² 权重矩阵，不同特征图互不相连，参数量从 m²n⁴ 降到 m·n⁴
50%待验证由于通道级 FC 层不混合通道，论文随后接一个 stride-1 卷积来跨通道传播信息
50%待验证Context Encoders 采用解耦的联合损失函数，包括重建损失（归一化掩码 L2 距离）和对抗损失，分别处理与上下文的连续性和输出的多模态性
50%待验证重建损失只在空洞内部比较预测与真实值，掩码 M 将网络已看到的像素置零，防止模型通过复制上下文得分
50%待验证论文尝试了 L1 和 L2 重建损失，发现差异不显著
50%待验证MAE（Masked Autoencoders）用高掩码率替代瓶颈约束，迫使模型学习语义表示，延续了 Context Encoders 的设计思路
50%待验证对于 8×8×256 潜在特征，带分组全连接层约需 105 万个权重，而完整 FC 层约需 2.68 亿个权重
50%