待验证50% 置信事实精确时间
全局范数裁剪必须在所有梯度算完后才能执行,因为需要先聚合出全局范数,这与“算完即释放”的 optimizer-in-backward 存在天然冲突。
1
来源数
50%
置信度
长期有效
时效性
2026/11/3
首次发现
来源
涉及实体
相关事实
待验证梯度裁剪的工作原理是当梯度范数超过预设阈值时,将整个梯度向量按比例缩小使其范数恰好等于该阈值79% 相似待验证该方法将剪枝视为组合优化问题:从所有部分解中选择一个子集,最大化该子集继续生成后至少有一个正确解的概率。77% 相似待验证梯度累加在自动微分中至关重要:当一个变量通过多个计算路径影响损失函数时,来自各路径的梯度必须相加72% 相似待验证缩减祖先集通过截断只保留有限深度的祖先集,将单次梯度计算的图遍历规模压缩至多项对数级别,引入的偏差在实践中通常可控70% 相似待验证基于占用度量的算法将策略优化问题重写为在占用度量多面体上的凸优化,从而全局控制所有状态-动作对上的误差累积,这是其遗憾界少一个H因子的根本原因。70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1130236API
curl https://kongchang.com/api/v1/knowledge/claims/1130236MCP
get_claim(id=1130236)