概念Asymptotic Error
渐近误差
训练样本数量趋于无穷大时学生网络收敛到的泛化误差,反映无限数据下的最优性能,由模型误设和优化偏差决定
时间轴 (近 90 天)
10月22日
空间相关性会降低权重共享的优势:卷积学生的渐近误差随输入空间相关性c增大而上升,而局部连接学生的渐近误差与c无关,且在相同学习率下整体更低。
待验证50%
训练样本数量趋于无穷大时学生网络收敛到的泛化误差,反映无限数据下的最优性能,由模型误设和优化偏差决定
空间相关性会降低权重共享的优势:卷积学生的渐近误差随输入空间相关性c增大而上升,而局部连接学生的渐近误差与c无关,且在相同学习率下整体更低。