自回归模型生成每个token都需要加载整个模型权重，导致显存带宽成为瓶颈，而非计算能力。