[控场AI]
概念Prefill / 预填充阶段

Prefill阶段

大模型推理的第一阶段,负责并行处理所有输入token并生成KV Cache,计算密集型任务,适合高算力GPU执行

来源文章