以隐藏维度 8192 的 70B 模型、batch size = 1 为例，每生成一个 token 穿越 PCIe 的总数据量只有几 MB。