加速比定义为自回归基线解码时间与加速方法解码时间之比，受计算延迟和内存访问延迟共同影响，且高度依赖批大小。