实验使用预训练的GPT-2 small（124M参数）、NVIDIA A40 GPU、fp32精度且关闭TF32、batch size为1、贪心解码。