在RLHF或在线RL（如PPO、GRPO）训练中，rollout阶段的生成本质是大规模推理任务，请求具有突发性和批量性，对整体吞吐敏感而对单条延迟不敏感。