概念ODE / ordinary differential equation
常微分方程
含有一个自变量及其导数的微分方程,用于描述连续变化过程,在深度学习理论中常用来对梯度下降进行连续化分析。
时间轴 (近 90 天)
10月22日
该理论研究通过教师-学生模型,在特征维度D趋于无穷的极限下,推导出精确描述学生网络学习动力学的常微分方程。
待验证50%
10月22日
在线随机梯度下降(online SGD)在教师-学生模型中,当学习率趋于零时,其连续时间极限由一组常微分方程描述。
待验证50%