待验证50% 置信基准精确时间
在 8x H200/B200 节点上，Mistral Large 3 持续生成速度达到 142 tokens/秒。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/12
首次发现
有效期至：2026/10/26
来源
涉及实体
相关事实
已验证在RTX 5090上，Muse Glimmer生成速度从每秒75个Token提升到233个Token，提速约3.1倍72% 相似待验证M5 Max的token生成速度大约在10-30 tokens/s范围（取决于模型规模），而NVIDIA H100的HBM3显存带宽高达3.35TB/s，推理速度可达本地设备的数十倍70% 相似待验证在配备96GB显存的M2 Max上以1-bit精度运行时，简单任务生成速度稳定在约28-30 tokens/秒69% 相似待验证约1.6M超长上下文配合128并发时，吞吐可达约3700 tokens/s（聚合）67% 相似待验证在RTX 5090上，Muse Glimmer不使用推测解码时为75 tokens/秒，搭配推测解码模型后速度达233 tokens/秒67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1008186API
curl https://kongchang.com/api/v1/knowledge/claims/1008186MCP
get_claim(id=1008186)