待验证50% 置信基准精确时间
在 A10 GPU 上服务 100 并发用户时，vLLM 的吞吐量通常是 Ollama 的 5-10 倍
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/17
首次发现
有效期至：2026/10/15
来源
相关事实
待验证NVIDIA H100的HBM显存带宽约为3.35 TB/s，在自回归生成任务中利用率往往不足10%69% 相似待验证A single GPU has a compute power of 1, but 100 GPUs connected together might only deliver the equivalent of 80 GPUs in effective performance.67% 相似已验证A100 GPU的HBM带宽约2TB/s，而片上SRAM带宽可达19TB/s，相差近10倍67% 相似待验证单张A100 GPU的显存容量上限为80GB66% 相似待验证当前主流消费级GPU如NVIDIA RTX 4090已能流畅运行70亿至130亿参数的量化模型66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/544095API
curl https://kongchang.com/api/v1/knowledge/claims/544095MCP
get_claim(id=544095)