vLLM论文的核心结果是，与FasterTransformer和Orca相比，vLLM在相同延迟水平下将流行LLM的吞吐量提升2-4倍，对于更长序列、更大模型和更复杂解码提升更大。