预训练对显存（或NPU片上内存）的占用通常是推理的数倍，且对数值精度极为敏感，混合精度训练中一旦出现溢出或下溢，可能导致loss发散。