待验证50% 置信事实精确时间
当batch_size随环境数线性放大时,梯度估计的方差会以约1/batch_size的速率下降。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证在固定learning_rate下,batch_size随环境数线性放大、num_epoch保持不变时,策略在单次迭代中被推向新分布的总位移可能增大,表现为训练早期奖励剧烈震荡甚至坍塌。64% 相似待验证调和平均对短板敏感,只要某一维度表现差,总分就会被明显拉低61% 相似待验证在batch-1解码场景中,由于算术强度极低,性能瓶颈必然落在内存带宽一侧,理论token上限可由实测带宽乘以权重字节数计算得出。60% 相似待验证该误差界中收敛速度的指数由数据的内在维度(Wasserstein-p维度)决定,而非环境维度60% 相似待验证小批量梯度下降(Mini-batch GD)是批量梯度下降和随机梯度下降的折中方案,也是工业界最常用的梯度下降方式59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1015931API
curl https://kongchang.com/api/v1/knowledge/claims/1015931MCP
get_claim(id=1015931)