H200
NVIDIA 推出的 Hopper 架构 GPU,配备 HBM3e 内存,面向高性能计算和 AI 训练/推理
核心事实
时间轴 (近 90 天)
Moonshot Kimi K2.5总参数量1.04T(32B活跃,384专家),即使采用QAT-INT4量化仍需8×H200才能容纳权重。
数据中心级H100/H200的定价动辄数万美元且采购渠道受限,消费级旗舰卡在单位显存成本上优势明显。
GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。
这些优化在 H200 GPU 上带来了最高 10% 的吞吐量提升和最高 9% 的首 token 延迟(TTFT)改善。
JetBrains 自报数据:Mellum2.1 在单张 H200 上达到 7,969 tokens/s,Qwen3.5-9B 为 4,347 tokens/s。
暴露设备清单覆盖H100、H200、B200、Blackwell Ultra B300等高端加速卡以及RTX 4090和RTX 5090消费级显卡
NVIDIA 的产能和分销资源在 AI 热潮下优先倾斜给了 H100、H200 等高端型号
甲骨文在英伟达H100/H200 GPU集群的大规模采购和裸金属实例供给上投入巨大
英伟达的高端GPU包括H100、H200以及Blackwell系列
AI公司为抢占稀缺GPU资源(尤其是英伟达H100/H200集群)不得不接受严苛的长期合约条款
还有 22 条时间轴事件
全部知识事实 (20)
英伟达H100/H200 GPU单卡售价高达3-4万美元
90%已验证英伟达H100/H200系列GPU在AI训练和推理市场占据超过80%的份额
90%待验证OpenAI、Google DeepMind、Anthropic等头部公司同时争夺有限的H100/H200 GPU供应
80%待验证英伟达H100/H200系列GPU长期处于供不应求状态
70%待验证英伟达H100/H200、AMD MI300X均集成了HBM
70%待验证GPU代际从A100到H100再到H200演进,每一代新GPU都在推动推理效率前沿向外扩展
60%待验证Composer 2.5的高速推理依赖推测性解码(Speculative Decoding)、KV Cache优化以及专用推理硬件(如H100/H200 GPU集群)的协同加速
60%待验证Moonshot Kimi K2.5总参数量1.04T(32B活跃,384专家),即使采用QAT-INT4量化仍需8×H200才能容纳权重。
50%待验证数据中心级H100/H200的定价动辄数万美元且采购渠道受限,消费级旗舰卡在单位显存成本上优势明显。
50%待验证GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。
50%待验证这些优化在 H200 GPU 上带来了最高 10% 的吞吐量提升和最高 9% 的首 token 延迟(TTFT)改善。
50%待验证JetBrains 自报数据:Mellum2.1 在单张 H200 上达到 7,969 tokens/s,Qwen3.5-9B 为 4,347 tokens/s。
50%待验证暴露设备清单覆盖H100、H200、B200、Blackwell Ultra B300等高端加速卡以及RTX 4090和RTX 5090消费级显卡
50%待验证NVIDIA 的产能和分销资源在 AI 热潮下优先倾斜给了 H100、H200 等高端型号
50%待验证甲骨文在英伟达H100/H200 GPU集群的大规模采购和裸金属实例供给上投入巨大
50%待验证英伟达的高端GPU包括H100、H200以及Blackwell系列
50%待验证AI公司为抢占稀缺GPU资源(尤其是英伟达H100/H200集群)不得不接受严苛的长期合约条款
50%待验证H200相比上一代H100的核心升级在于显存容量和带宽
50%待验证Jalapeño功耗约700瓦,与H100、H200相当,却搭载近3倍于H100的显存容量和约5倍的带宽
50%待验证架构师模式下智能体的表现比建模的H200加速器平均高出5.4%
50%