训练是指用大规模数据反复迭代模型参数，属于离线、长周期任务；推理是模型上线后响应用户每一次请求的前向计算过程，是实时、高并发的在线任务。