待验证50% 置信基准精确时间
官方数据显示，在单张 B200 上，LFM2.5-1.2B 在 RIPL 上的 p95 延迟比 Qwen3.5-0.8B 在 vLLM 上低 14.4 至 28.4 倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/22
首次发现
有效期至：2026/11/5
来源
涉及实体
相关事实
待验证qwen3.8 的延迟 p50 为 18885ms，p95 为 42368ms，比 Claude Sonnet 5 在同任务上的 1080ms 中位延迟慢 15 到 20 倍。74% 相似待验证Qwen 27B的Q4_K_M/GGUF版本在同一台机器上解码速度约为10.7 tok/s，约为MLX版本的1/3.873% 相似待验证在batch 1时，RTX 3090的推理吞吐大约是L40S的1.03~1.09倍（基于Qwen2.5 1.5B/7B模型、vLLM 0.27.1实测）。70% 相似已验证LLaMA-2-7B使用FP16精度时每个token的KV Cache约占0.5MB70% 相似已验证实测中Qwen3 27B在未开启NVLink的4张魔改2080Ti上生成速度约为40多token/秒68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1086971API
curl https://kongchang.com/api/v1/knowledge/claims/1086971MCP
get_claim(id=1086971)