待验证50% 置信事实精确时间
显存溢出（OOM）在训练中多由批次过大、序列变长或中间激活值累积引起；推理阶段则常因并发请求数上升、KV Cache随上下文长度线性增长而触发。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
待验证在固定learning_rate下，batch_size随环境数线性放大、num_epoch保持不变时，策略在单次迭代中被推向新分布的总位移可能增大，表现为训练早期奖励剧烈震荡甚至坍塌。75% 相似待验证预训练对显存（或NPU片上内存）的占用通常是推理的数倍，且对数值精度极为敏感，混合精度训练中一旦出现溢出或下溢，可能导致loss发散。73% 相似待验证大规模生成rollout需要高吞吐的推理能力，同时训练环节需要大量算力，两者在同一集群中的切换和分配是核心难题72% 相似已验证梯度累积通过在多个小批次上累积梯度后再执行一次参数更新，效果等同于使用大批次训练72% 相似已验证在收敛型任务上，模型达到一定规模后存在明显的性能饱和现象，参数量或训练数据的继续增加对准确率的边际贡献快速衰减71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1062291API
curl https://kongchang.com/api/v1/knowledge/claims/1062291MCP
get_claim(id=1062291)