预训练与推理在工程需求上有本质差异：推理是前向计算，对数值精度容忍度高，可量化到INT8甚至INT4，且可离线编译固定计算图；预训练需完整的前向与反向传播、优化器状态维护、梯度跨设备同步。