待验证50% 置信基准精确时间
当并发请求达到150个时，vLLM新版本的系统整体吞吐量可提升至原来的5.3倍
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/13
首次发现
有效期至：2026/10/27
来源
涉及实体
相关事实
待验证vLLM通过PagedAttention技术使同等硬件下可并发服务用户数提升2-4倍，吞吐量提升最高24倍68% 相似待验证vLLM在相同硬件上的吞吐量通常比Ollama高出一个数量级68% 相似待验证在同配置对比中，38K单请求吞吐从每秒69.38个Token提高到86.07个，约4K的8路总吞吐从每秒400.16提高到464.1562% 相似待验证以70亿参数模型为例，LoRA可能只需更新其中0.1%至1%的参数，使所需显存从数百GB降至可在RTX 4090等消费级GPU上运行61% 相似待验证用2840亿参数的DeepSeek V4 Flash实测，token生成从37提升到53 tokens/s（约1.5倍），Prompt Processing从483跃升到1485 tokens/s（约三倍）60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1014634API
curl https://kongchang.com/api/v1/knowledge/claims/1014634MCP
get_claim(id=1014634)