待验证50% 置信基准精确时间
在单台DGX Spark上serving参数量高达125B的Qwen和Nemotron模型时,Hibana相比vLLM、NVIDIA Flare、llama.cpp和TensorFold,每小时完成的Agent任务数最多提升3.4倍,解码吞吐量最多提升3.9倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/11/10
首次发现
有效期至:2026/11/24
来源
涉及实体
相关事实
待验证在InferenceX公共基准测试中,Jalapeño峰值吞吐下每瓦任务量达到NVIDIA对比系统的1.5至1.9倍,端到端延迟降低1.7至3.6倍68% 相似待验证在相同设置下,DFlash 以 Qwen3-8B 和 Qwen3-32B 为目标模型的平均解码加速分别为 4.03 倍和 3.67 倍。66% 相似待验证在 GLM-5.3-FLASH(QWEN-3.8-27B)的 10M token 上下文测试中,D-LSA 与全注意力相比,预填充加速达 72.4 倍,解码加速达 42.5 倍。65% 相似待验证Mistral AI的7B模型在发布时性能超越了两倍参数量的Llama 2 13B65% 相似待验证跨七个基准的评测中,以 Qwen3-8B 为目标模型时,D3D 取得 5.00 倍的平均解码加速。63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1154129API
curl https://kongchang.com/api/v1/knowledge/claims/1154129MCP
get_claim(id=1154129)