待验证50% 置信基准精确时间
Ollama 库内 qwen3.5:0.8b 使用 MLX 引擎的 mxfp8 量化,其提示词处理为 2,264.6 tok/s,生成为 95.3 tok/s
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
涉及实体
相关事实
待验证GFX1151 engine 针对 AMD AI MAX+ 395 平台运行 Qwen3 系列大模型进行了深度优化67% 相似待验证在 8 块 AMD Instinct MI355X 加速卡上,借助 vLLM 推理框架,GLM-5.3 模型实现了 469 tok/s 的单用户解码速度66% 相似待验证FA4 MX8在典型LLM形状下达到前向2.85 PF/s、反向2 PF/s的性能64% 相似待验证LFM2-VL 通过 DSpark 投机解码在 batch 1 下获得 1.66x 到 2.56x 的加速63% 相似待验证Qwen3 Coder Next 是一个 80B 参数的混合专家(MoE)编程模型,由 vLLM 部署在一张 A100 80GB 上,使用 cyankiwi 发布的 4-bit AWQ 量化版本62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1039234API
curl https://kongchang.com/api/v1/knowledge/claims/1039234MCP
get_claim(id=1039234)