H200
NVIDIA 推出的 Hopper 架构 GPU,配备 HBM3e 内存,面向高性能计算和 AI 训练/推理
核心事实
时间轴 (近 90 天)
GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。
这些优化在 H200 GPU 上带来了最高 10% 的吞吐量提升和最高 9% 的首 token 延迟(TTFT)改善。
JetBrains 自报数据:Mellum2.1 在单张 H200 上达到 7,969 tokens/s,Qwen3.5-9B 为 4,347 tokens/s。
暴露设备清单覆盖H100、H200、B200、Blackwell Ultra B300等高端加速卡以及RTX 4090和RTX 5090消费级显卡
NVIDIA 的产能和分销资源在 AI 热潮下优先倾斜给了 H100、H200 等高端型号
甲骨文在英伟达H100/H200 GPU集群的大规模采购和裸金属实例供给上投入巨大
英伟达的高端GPU包括H100、H200以及Blackwell系列
AI公司为抢占稀缺GPU资源(尤其是英伟达H100/H200集群)不得不接受严苛的长期合约条款
H200相比上一代H100的核心升级在于显存容量和带宽
按8卡整机换算,H200租赁等效成本约为每小时35.20美元
还有 20 条时间轴事件
全部知识事实 (20)
英伟达H100/H200 GPU单卡售价高达3-4万美元
90%已验证英伟达H100/H200系列GPU在AI训练和推理市场占据超过80%的份额
90%待验证OpenAI、Google DeepMind、Anthropic等头部公司同时争夺有限的H100/H200 GPU供应
80%待验证英伟达H100/H200系列GPU长期处于供不应求状态
70%待验证英伟达H100/H200、AMD MI300X均集成了HBM
70%待验证GPU代际从A100到H100再到H200演进,每一代新GPU都在推动推理效率前沿向外扩展
60%待验证Composer 2.5的高速推理依赖推测性解码(Speculative Decoding)、KV Cache优化以及专用推理硬件(如H100/H200 GPU集群)的协同加速
60%待验证GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。
50%待验证这些优化在 H200 GPU 上带来了最高 10% 的吞吐量提升和最高 9% 的首 token 延迟(TTFT)改善。
50%待验证JetBrains 自报数据:Mellum2.1 在单张 H200 上达到 7,969 tokens/s,Qwen3.5-9B 为 4,347 tokens/s。
50%待验证暴露设备清单覆盖H100、H200、B200、Blackwell Ultra B300等高端加速卡以及RTX 4090和RTX 5090消费级显卡
50%待验证NVIDIA 的产能和分销资源在 AI 热潮下优先倾斜给了 H100、H200 等高端型号
50%待验证甲骨文在英伟达H100/H200 GPU集群的大规模采购和裸金属实例供给上投入巨大
50%待验证英伟达的高端GPU包括H100、H200以及Blackwell系列
50%待验证AI公司为抢占稀缺GPU资源(尤其是英伟达H100/H200集群)不得不接受严苛的长期合约条款
50%待验证H200相比上一代H100的核心升级在于显存容量和带宽
50%待验证Jalapeño功耗约700瓦,与H100、H200相当,却搭载近3倍于H100的显存容量和约5倍的带宽
50%待验证架构师模式下智能体的表现比建模的H200加速器平均高出5.4%
50%待验证H200是NVIDIA面向AI计算的高端GPU
50%待验证顶级AI实验室和科技巨头对H100、H200等高端GPU的需求远超台积电与英伟达的供应产能
50%