[控场AI]
概念

Prefill 阶段

Transformer 自回归生成的两个阶段之一,指一次性并行处理整个输入提示词的计算密集型阶段,性能瓶颈为算力(TFLOPS)。

来源文章