待验证50% 置信基准精确时间
SkyRL 官方报告显示，通过合理配置 vLLM 中的专家适配器，LoRA 解码吞吐从 276 tok/s/GPU 提升到 447 tok/s/GPU。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/17
首次发现
有效期至：2027/1/15
来源
涉及实体
相关事实
待验证vLLM 对 NVIDIA Vera Rubin NVL72 提供 day-0 支持，报告相对 GB200 NVL72 每 GPU 7.8 倍吞吐（AgentX）和相对 GB300 的 3.7 倍 VLM 吞吐（MLPerf v6.1），配有面向 MoE 路由调优的 locality domains。68% 相似待验证vLLM的并行度设置必须与实际GPU数量匹配，显存利用率设置过高会导致OOM崩溃，设置过低则浪费硬件资源66% 相似待验证vLLM 的核心创新是 PagedAttention 内存管理机制，能将 KV Cache 的 GPU 显存利用率从传统方式的 40-60% 提升到 90% 以上66% 相似待验证LLaMA 3、Mistral、Qwen 2.5 等开源模型在主流消费级 GPU（如 RTX 4090）上已能流畅运行 7B 至 14B 参数规模的版本66% 相似待验证GLM-OCR经INT8量化后可在单张消费级GPU（如RTX 3060/4060，12GB显存）乃至部分移动端NPU上运行推理65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1050659API
curl https://kongchang.com/api/v1/knowledge/claims/1050659MCP
get_claim(id=1050659)