自购还是租用H200？实测盈亏平衡点在这里

在AI基础设施的讨论中，"买GPU还是租GPU"几乎是每个团队都绕不开的问题。社区里各执一词的人不少，但真正把账算清楚的却很少。一位Reddit用户为自己团队的采购决策实际跑了一遍盈亏平衡模型，结论和很多人的直觉并不一致。本文梳理这套计算逻辑，并补充几个容易被忽略的隐性成本。

硬件成本与租赁价格的基准

计算的起点是两组价格数据。一台8卡HGX H200服务器的采购价大约落在32万至42万美元区间，取一个合理的中位数约为37万美元。这是纯硬件层面的一次性投入。

租赁一侧，作者统计了34家供应商的按需（on-demand）H200价格，中位数约为每GPU小时4.40美元。这里有个关键提醒：市面上偶尔能看到的2到3美元/小时报价，更接近spot（竞价/抢占式）定价，而非可持续使用的按需价格。用spot价格去做长期规划，会严重低估租赁成本。

按8卡整机换算，租赁等效成本约为每小时35.20美元。这个数字构成了后续所有盈亏平衡计算的基础。

HGX H200 是英伟达面向数据中心的旗舰级多GPU互联平台，8卡配置通过NVLink和NVSwitch将8块H200 GPU高带宽互联，总显存可达1.1TB（HBM3e）。H200相比上一代H100的核心升级在于显存容量和带宽，这使其在大模型训练和推理场景中尤为关键。

按需（on-demand）与竞价（spot）定价的区别值得特别说明：按需实例随时可用、不会被抢占，适合需要稳定运行时间的训练任务；竞价实例价格更低（通常低30%-70%），但云平台可能在资源紧张时随时中断，适合可以做检查点保存（checkpoint）、能容忍中断的短期任务。用spot价格评估长期总拥有成本，本质上是把"最理想情况"当成基准，会系统性地低估租赁侧的实际支出。

硬件层面的盈亏平衡点

以37万美元采购价对比35.20美元/小时的租赁成本，仅考虑硬件本身，盈亏平衡时间取决于利用率：

100%利用率：约14.4个月回本
60%利用率：约24个月回本
40%利用率：约36个月回本

这里最反直觉的一点在于：满负荷运转下一年多就能回本，听起来自购很划算。但作者一针见血地指出，大多数小团队的负载是突发式训练加稳定推理的组合，几乎不可能长期维持100%利用率。一旦利用率掉到40%，回本周期就拉长到三年——而三年后这批硬件早已是上一代产品。

被低估的四类隐性成本

作者强调，上述计算只是硬件级别的对比，真正做决策时至少还要计入四项额外成本：

电力与散热

作者自己的经历是，托管机柜（colo cage）的报价比他预算的要高。GPU服务器的功耗和散热需求极高，这部分持续性支出常常在初期被低估。

折旧

一句话总结作者的态度："不管你假设的折旧率是多少，都砍掉一半。"数据中心级别的上一代硬件二手市场很薄，残值远低于消费级硬件的直觉预期。这意味着自购设备的账面价值缩水速度会超出多数人的预估。

你自己的时间

自建意味着要投入运维、排障、采购谈判等大量隐性人力成本。对小团队而言，创始人或工程师的时间往往是最稀缺的资源，这笔账很难量化却真实存在。

闲置小时

买下的机器无论是否在跑任务，成本都已经发生。而闲置时间正是拉低有效利用率、推迟回本的直接原因。

结论：利用率是唯一的分水岭

作者的最终判断相当清晰：

若能在两年内维持约60%的持续利用率，自购胜出；
若利用率低于40%，租赁更划算。

这个框架把复杂的决策收敛到了一个核心变量——真实的持续利用率，而不是理论峰值。

此外，作者还提到一个能改善自购经济性的思路：把闲置算力出售给算力承接网络（offtake networks），用这部分收入抵消设备成本。这实际上是把"闲置小时"这个负面因素部分转化为收益，从而拉低有效盈亏平衡点。

算力承接网络（offtake networks） 是近年兴起的一类算力流通平台，其核心模式是：自购GPU的所有者将闲置算力以协议价格批量卖给平台或聚合商，后者再分发给有短期算力需求的用户。典型玩家包括CoreWeave、Crusoe等专注GPU云的平台，以及Vast.ai、RunPod等P2P算力市场。对自购方而言，参与offtake network相当于给闲置时段定价变现，可以将有效利用率"补足"到更高水平，从而缩短账面回本周期。但需注意，此类平台通常对硬件配置、网络带宽和正常运行时间有严格要求，接入成本和管理复杂度不可忽视。

对团队的启示

这套计算最大的价值不在于给出一个标准答案，而在于提供了一个可复用的决策框架。任何团队都可以代入自己的采购报价、当地电力和托管成本、以及最重要的——诚实评估的利用率，来得出属于自己的结论。

值得警惕的是两个常见误区：一是用spot价格评估租赁成本，二是低估折旧和残值损失。避开这两个坑，鉴于大多数小团队负载的突发特性，租赁在很多场景下比人们以为的更有竞争力。

作者也在帖子结尾抛出了一个开放问题：大家实际观察到的利用率是多少？这恰恰说明，在缺乏真实利用率数据的情况下，任何买vs租的争论都只是空谈。