H100
核心事实
时间轴 (近 90 天)
FlashProof在单张H100上生成证明的速度约为每秒100个token，验证在普通处理器上约需17秒。
Nvidia 当前营收重心在数据中心业务，对 H100、B200 等加速卡的需求锁定了台积电先进制程与 CoWoS 封装产能。
Anthropic开源了FlashProve，用密码学证明验证响应确实来自声称的模型；测试对象为Meta Llama 4 Maverick（4000亿参数），单张H100上生成速度达每秒110个token、每个证明约19MB。
FlashProve 在单张 H100 GPU 上对 Llama 4 Maverick 模型进行证明生成，吞吐达到 110 tokens/second，证明体积为 19 MB。
在五个H100 bfloat16大规模工作负载上，作者实现的融合GPU内核在匹配的SISO恢复配置下，相对官方Mamba 1/3提升了训练时间的几何平均值。
在五个H100 bfloat16大规模工作负载上，作者实现的融合GPU内核在SSM核心范围内与Mamba 2的表现接近持平。
在H100和H200上，四种算子的加速在1.18–1.70倍之间，且保留原始FP32工作矩阵。
算力使用一台Lambda GH200（64个ARM核心加H100 96GB），并行运行15,360局游戏，吞吐量1.2到190万样本/秒。
EDU-Jev 2B 模型在单张 H100 GPU 上每秒可处理约 150 次决策。
追踪H100等主力型号的租赁报价走势，比单一来源的库存说法更能反映真实供需。
还有 40 条时间轴事件
全部知识事实 (20)
NVIDIA A100的HBM2e容量为80GB，H100为80GB HBM3，H200为141GB
90%已验证英伟达H100采用的HBM3内存带宽高达3.35TB/s
90%已验证美国自2022年起对中国实施先进半导体出口管制，限制高端AI训练芯片如NVIDIA A100/H100及其后续产品的出口
90%已验证xAI建设了名为Colossus的超级计算集群，据报道配备了超过10万块NVIDIA H100 GPU
90%已验证大语言模型的预训练过程需要数千块高端GPU并行运算数月，耗资通常在数千万到数亿美元之间
90%已验证训练一次GPT-4级别的模型需要数万块A100/H100 GPU协同工作数月
90%已验证英伟达H100/H200 GPU单卡售价高达3-4万美元
90%已验证英伟达H100/H200系列GPU在AI训练和推理市场占据超过80%的份额
90%已验证以LLaMA-2 70B为例，处理4096 token上下文、批量大小32时，KV Cache可消耗超过80GB显存
80%已验证HBM是英伟达A100、H100、H200等AI训练芯片的核心组成部分
80%已验证Cerebras最新一代WSE-3芯片面积达到约46,225平方毫米，集成了4万亿个晶体管和90万个AI优化核心，是英伟达H100 GPU面积的50倍以上
80%已验证NVIDIA的MIG技术可在A100/H100等高端GPU上实现硬件级别的资源隔离
80%已验证Blackwell架构核心创新包括第二代Transformer引擎（支持FP4精度）、NVLink Switch系统（支持576块GPU互联）、20 petaFLOPS的FP4算力和192GB HBM3e显存（带宽达8TB/s）
80%已验证英伟达H100/H200、AMD MI300X均集成了HBM
75%已验证Blackwell的第二代Transformer Engine新增FP4精度支持，理论上可将Transformer模型的训练吞吐量相比H100提升2-4倍
75%已验证35B模型在FP16精度下需要约70GB显存，远超RTX 5090的32GB容量，因此单卡部署需量化
75%已验证70B级别的模型即便经过量化，往往也需要40GB以上显存或多卡配置
75%已验证主流NVMe SSD的顺序读取速度可达3500-7000MB/s
75%已验证支持128K上下文的70B参数模型的KV Cache满负荷时可能需要数百GB显存，超过单张H100的80GB显存容量
70%已验证NVLink 4.0（用于H100）单向带宽可达900 GB/s
70%