[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
Prefill 阶段
Transformer 自回归生成的两个阶段之一,指一次性并行处理整个输入提示词的计算密集型阶段,性能瓶颈为算力(TFLOPS)。
来源文章
vLLM vs Ollama vs llama.cpp:LLM推理引擎终极选型指南
10月19日