[控场AI]
产品NVIDIA H200

H200

NVIDIA 推出的 Hopper 架构 GPU,配备 HBM3e 内存,面向高性能计算和 AI 训练/推理

核心事实

时间轴 (近 90 天)

10月14日

Moonshot Kimi K2.5总参数量1.04T(32B活跃,384专家),即使采用QAT-INT4量化仍需8×H200才能容纳权重。

待验证50%
10月14日

数据中心级H100/H200的定价动辄数万美元且采购渠道受限,消费级旗舰卡在单位显存成本上优势明显。

待验证50%
10月13日

GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。

待验证50%
10月13日

这些优化在 H200 GPU 上带来了最高 10% 的吞吐量提升和最高 9% 的首 token 延迟(TTFT)改善。

待验证50%
10月13日

JetBrains 自报数据:Mellum2.1 在单张 H200 上达到 7,969 tokens/s,Qwen3.5-9B 为 4,347 tokens/s。

待验证50%
10月12日

暴露设备清单覆盖H100、H200、B200、Blackwell Ultra B300等高端加速卡以及RTX 4090和RTX 5090消费级显卡

待验证50%
10月8日

NVIDIA 的产能和分销资源在 AI 热潮下优先倾斜给了 H100、H200 等高端型号

待验证50%
10月6日

甲骨文在英伟达H100/H200 GPU集群的大规模采购和裸金属实例供给上投入巨大

待验证50%
10月2日

英伟达的高端GPU包括H100、H200以及Blackwell系列

待验证50%
9月30日

AI公司为抢占稀缺GPU资源(尤其是英伟达H100/H200集群)不得不接受严苛的长期合约条款

待验证50%

还有 22 条时间轴事件

全部知识事实 (20)

已验证

英伟达H100/H200 GPU单卡售价高达3-4万美元

90%
已验证

英伟达H100/H200系列GPU在AI训练和推理市场占据超过80%的份额

90%
待验证

OpenAI、Google DeepMind、Anthropic等头部公司同时争夺有限的H100/H200 GPU供应

80%
待验证

英伟达H100/H200系列GPU长期处于供不应求状态

70%
待验证

英伟达H100/H200、AMD MI300X均集成了HBM

70%
待验证

GPU代际从A100到H100再到H200演进,每一代新GPU都在推动推理效率前沿向外扩展

60%
待验证

Composer 2.5的高速推理依赖推测性解码(Speculative Decoding)、KV Cache优化以及专用推理硬件(如H100/H200 GPU集群)的协同加速

60%
待验证

Moonshot Kimi K2.5总参数量1.04T(32B活跃,384专家),即使采用QAT-INT4量化仍需8×H200才能容纳权重。

50%
待验证

数据中心级H100/H200的定价动辄数万美元且采购渠道受限,消费级旗舰卡在单位显存成本上优势明显。

50%
待验证

GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。

50%
待验证

这些优化在 H200 GPU 上带来了最高 10% 的吞吐量提升和最高 9% 的首 token 延迟(TTFT)改善。

50%
待验证

JetBrains 自报数据:Mellum2.1 在单张 H200 上达到 7,969 tokens/s,Qwen3.5-9B 为 4,347 tokens/s。

50%
待验证

暴露设备清单覆盖H100、H200、B200、Blackwell Ultra B300等高端加速卡以及RTX 4090和RTX 5090消费级显卡

50%
待验证

NVIDIA 的产能和分销资源在 AI 热潮下优先倾斜给了 H100、H200 等高端型号

50%
待验证

甲骨文在英伟达H100/H200 GPU集群的大规模采购和裸金属实例供给上投入巨大

50%
待验证

英伟达的高端GPU包括H100、H200以及Blackwell系列

50%
待验证

AI公司为抢占稀缺GPU资源(尤其是英伟达H100/H200集群)不得不接受严苛的长期合约条款

50%
待验证

H200相比上一代H100的核心升级在于显存容量和带宽

50%
待验证

Jalapeño功耗约700瓦,与H100、H200相当,却搭载近3倍于H100的显存容量和约5倍的带宽

50%
待验证

架构师模式下智能体的表现比建模的H200加速器平均高出5.4%

50%

来源文章