待验证50% 置信事实精确时间

AdamW的β₁默认值通常为0.9，控制梯度一阶梯度的指数移动平均窗口。

1

来源数

50%

置信度

长期有效

时效性

2026/10/15

首次发现

来源

RLVR中动量何时有效？理论与实验揭示EMA系数选择原则

涉及实体

AdamWconcept β₁concept

相关事实

待验证Adam的一阶矩衰减系数β₁通常默认为0.973% 相似待验证AdamW的有效步长近似正比于η/(1-β₁)，因此单纯增大β₁相当于隐式放大了有效学习率。71% 相似待验证当ε≈0时，二阶矩估计完全主导，优化器恢复为标准的Adam65% 相似待验证在Qwen2.5-32B模型上，仅将AdamW的一阶动量系数β₁从常规值增大，就在平均验证准确率上带来了近2个百分点的提升，无需修改其他超参数。64% 相似待验证Adam的二阶矩估计记录梯度平方的指数移动平均，反映梯度的波动幅度61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1032945

API

curl https://kongchang.com/api/v1/knowledge/claims/1032945

MCP

get_claim(id=1032945)