待验证50% 置信基准精确时间

M5 Max的token生成速度大约在10-30 tokens/s范围（取决于模型规模），而NVIDIA H100的HBM3显存带宽高达3.35TB/s，推理速度可达本地设备的数十倍

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/31

首次发现

有效期至：2026/11/29

来源

多Harness集成实践：本地与云端推理的平衡之道

涉及实体

Apple M5 Maxproduct NVIDIA H100product

相关事实

已验证H100 SXM5的HBM3带宽约为3.35TB/s，FP16峰值算力约989TFLOPS74% 相似已验证NVIDIA H100的HBM显存带宽约为3.35 TB/s，在自回归生成任务中利用率往往不足10%72% 相似待验证在配备96GB显存的M2 Max上以1-bit精度运行时，简单任务生成速度稳定在约28-30 tokens/秒72% 相似待验证英伟达H100基于Hopper架构，采用HBM3内存带宽高达3.35TB/s，单卡FP16算力可达近2000 TFLOPS71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/827390

API

curl https://kongchang.com/api/v1/knowledge/claims/827390

MCP

get_claim(id=827390)