待验证50% 置信事实精确时间
预训练阶段引入随机深度会诱导出收缩性残差动态，使每次循环的输出被拉向共同不动点，不同循环的表示越来越接近。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
待验证微调过程中过度依赖微调部分，可能正是罕见类能力被遮蔽的根源；将模型计算适度导向预训练组件，或许是一条更稳健的微调路线。74% 相似待验证训练时不能一开始就追求快，若直接压步数模型容易陷入死循环反复生成重复字符，只做第一步的版本碰上难题会卡死，需先练准再练快73% 相似待验证即便固定所有随机种子，在不同硬件或并行度下，训练结果仍可能出现被大模型放大为显著能力差异的细微偏差73% 相似待验证在固定learning_rate下，batch_size随环境数线性放大、num_epoch保持不变时，策略在单次迭代中被推向新分布的总位移可能增大，表现为训练早期奖励剧烈震荡甚至坍塌。72% 相似待验证域随机化的代价是早期训练信号更加嘈杂、收敛更慢，但换来策略在整个参数空间内均匀分布的泛化能力72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088245API
curl https://kongchang.com/api/v1/knowledge/claims/1088245MCP
get_claim(id=1088245)