Unverified50% confidenceFactExact time
Adam 优化器由 Kingma 和 Ba 于 2014 年提出，同时维护梯度的一阶矩估计与二阶矩估计，并通过偏差修正项处理训练初期矩估计偏向零的问题
1
Sources
50%
Confidence
Long-term
Relevance
7/21/2026
First Seen
Sources
Related Claims
UnverifiedAdam于2014年在RMSprop基础上增加了一阶矩（动量）的估计，并引入偏差修正项以解决训练初期估计偏低的问题83% similarUnverified从零实现 Adam 需要处理偏差校正（bias correction），因为初始阶段 m 和 v 被初始化为零导致估计偏低66% similarUnverifiedAdam的二阶矩估计记录梯度平方的指数移动平均，反映梯度的波动幅度65% similarUnverifiedAI生成假设的边际成本趋近于零，一旦模型训练完成每增加一条假设几乎不产生额外成本65% similarUnverifiedAI在实验设计中采用8:2划分保留20%作为独立测试集，并在80%训练集上采用5折交叉验证以避免数据泄漏65% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/575976API
curl https://kongchang.com/api/v1/knowledge/claims/575976MCP
get_claim(id=575976)