待验证50% 置信基准精确时间
横向对比中 vLLM 显存效率约 96%、Ollama 约 85%、llama.cpp 约 88%；首 token 延迟分别为 18ms、22ms、12ms。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/19
首次发现
有效期至：2026/11/2
来源
vLLM vs Ollama vs llama.cpp：LLM推理引擎终极选型指南
rss2026/10/19
涉及实体
相关事实
待验证在 LSCBench 中，六个模型的功能通过率最高达 91.3%，但功能与安全同时通过率最高只有 25.1%。69% 相似待验证vLLM 实测吞吐量相比朴素实现可提升 2-4 倍69% 相似待验证IMGNet 在CPLFW上76.85% vs 74.62%，在AgeDB-30上78.80% vs 77.22%，在较高难度基准上优势更明显67% 相似待验证难度感知路由在最终价格任务上削减了 85% 的 LLM 调用，同时弥补了与纯 GPT-4o 方案之间一半的准确率差距67% 相似待验证对于 7B 模型，使用求解器准确率为 75.31%，直接计算为 72.02%，配对提升 +3.29 个百分点，95% 聚类区间为 [-3.49, 10.38] 跨越零点，优势不显著67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1067964API
curl https://kongchang.com/api/v1/knowledge/claims/1067964MCP
get_claim(id=1067964)