Unverified50% confidenceFactExact time
在分布式训练中，少量节点内核参数与其他节点不一致会拖低整个训练作业的吞吐量，形成短板节点
1
Sources
50%
Confidence
Long-term
Relevance
9/23/2026
First Seen
Sources
Related Entities
Related Claims
Unverified针对特定工具做专项强化训练的副作用是对非训练分布工具的泛化能力下降，学术上称为分布外泛化失败79% similarVerified行为克隆存在分布偏移（Distribution Shift）问题：训练时策略只接触专家轨迹覆盖的状态分布，部署时微小偏差累积会使实际访问的状态分布逐渐偏离训练分布78% similarUnverified在后训练阶段，过低的损失可能对应过拟合，即模型死记硬背训练数据而丧失泛化能力78% similarUnverified在超大规模训练中，单个节点或链路故障可能导致整个训练作业中断或回滚到上一个检查点77% similarUnverifiedKeskar等人在2017年的研究表明大批量训练往往收敛到尖锐极小值对应更差泛化，小批量训练倾向于平坦极小值77% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/944939API
curl https://kongchang.com/api/v1/knowledge/claims/944939MCP
get_claim(id=944939)