Together AI B200训练降价:首八周9美元/GPU时

Together AI 将 B200 后训练价格降至 9 美元/GPU 小时,前八周优惠。
Together AI 宣布其基于 NVIDIA B200 GPU 的后训练服务在开通后前八周以 9 美元/GPU 小时计价,低于原价 11 美元,适用于 SFT 与 RL 两类任务。文章指出,后训练实验迭代频繁、单次训练短而次数多,单位成本下降能直接放大团队的实验预算,使并行多组配置或快速验证假设更可行。官方强调“把训练循环留在自己代码里”,即平台只提供算力与调度,训练逻辑、数据管道和评估脚本仍由团队掌控,从而降低平台锁定与迁移成本。文章也提醒,公告未披露显存配置、互联带宽与集群规模,实际体验需结合调度排队情况做小规模测试,八周窗口适合集中跑一轮实验矩阵。
Together AI 近期在社交平台宣布,其基于 NVIDIA B200 GPU 的 post-training(后训练)服务价格调整为每 GPU 小时 9 美元,适用于开通后的前八周,原价为 11 美元。这一降价直接瞄准了需要频繁跑 SFT(监督微调)和 RL(强化学习)实验的团队,尤其是那些希望把训练循环保留在自己代码中的开发者。
价格调整的具体内容
根据官方推文,此次优惠的核心信息有三点:价格从 11 美元/GPU 小时降至 9 美元/GPU 小时;优惠期限为前八周;适用场景为 post-training,包括 SFT 和 RL 两类任务。
对于后训练阶段而言,实验迭代频率往往高于预训练,单次训练时长相对较短但次数多,因此单位时间成本对总开销的影响非常直接。以八周为窗口计算,如果一个团队每天占用一张 B200 跑 10 小时,原价下约 6160 美元,新价格下约 5040 美元,节省超过 1100 美元。对于同时使用多卡并行的团队,节省幅度会成比例放大。
为什么后训练成本值得关注
大模型落地过程中,后训练已经成为决定模型实际表现的关键环节。SFT 让基座模型对齐特定任务格式,RL(包括 RLHF、DPO、GRPO 等变体)则进一步优化模型在目标奖励下的行为。这两类工作共同的特点是:需要反复试错。学习率、数据配比、奖励函数设计、KL 系数等超参数的任何调整,都意味着一轮新的训练任务。
成本下降的意义不只在于省钱。当单次实验的边际成本降低,团队更愿意并行跑多组配置,或缩短单次实验的规模来快速验证假设。这种"多试几次"的能力,在工程实践中往往比单次大规模训练更能推动进度。
SFT(监督微调):在预训练基座模型之上,用标注好的(输入,输出)对继续做梯度更新,让模型学会按任务要求的格式和风格作答。它通常比预训练便宜得多,但对数据质量极其敏感,数据配比、epoch 数、学习率都会显著影响效果。
RLHF(基于人类反馈的强化学习):先训练奖励模型,再用 PPO 等算法优化策略模型,使输出更符合人类偏好。流程复杂、显存占用高,通常需要策略模型、参考模型、奖励模型和值函数模型同时在位,因此对 GPU 资源要求远高于 SFT。
DPO(直接偏好优化):跳过显式奖励模型,直接用偏好对构造损失函数,实现更简单、训练更稳定,是目前 RLHF 的轻量替代。
GRPO(分组相对策略优化):对同一 prompt 采样多个输出,用组内相对得分作为优势估计,省去价值网络,在推理类任务(如数学、代码)中效果突出。
把训练循环留在自己代码里
官方推文中特别强调"keep the training loop in your own code"。这一点对熟悉后训练工作流的开发者来说指向明确:平台提供的是 GPU 算力和调度能力,而不是一个封闭的黑盒训练服务。团队可以沿用自己熟悉的框架和代码结构,把训练逻辑、数据管道、评估脚本掌握在自己手中,只把计算负载交给远端集群。
这种模式的好处在于可迁移性。训练代码不被平台锁定,换用其他算力供应商时迁移成本较低;调试和复现实验时,开发者面对的是自己写的代码,而不是平台封装的接口。对于需要长期维护训练管线的团队,这是一个实际的考量点。
“训练循环”指从数据加载、前向计算、损失计算、反向传播到优化器更新的完整控制流程。把它保留在自己的代码中,意味着平台只提供裸算力(类似启动一台远程 GPU 机器),而不接管训练调度。与之相对的托管式微调服务通常由平台封装训练脚本和超参数接口,上手快但可定制性有限,也难以复现内部细节。对于已有成熟训练框架(如 PyTorch + FSDP/DeepSpeed)的团队,前者更利于调试和迁移。
B200 在这类工作负载中的位置
B200 是 NVIDIA 面向大规模 AI 工作负载的 GPU 产品,具备较高的显存带宽和计算吞吐。在后训练场景中,它的价值主要体现在两方面:一是支持较大参数规模模型的微调,二是在 RL 这类需要频繁前向和反向计算的任务中缩短单轮迭代时间。
需要说明的是,本次公告只涉及价格,没有披露具体的显存配置、互联带宽或可用集群规模等细节。实际体验会受集群调度、排队情况等因素影响,团队在评估时应结合自身任务规模做小规模测试。
B200 属于 NVIDIA Blackwell 架构的数据中心 GPU,采用双 die 封装,配备 HBM3e 高带宽显存,单卡显存容量与带宽相比上一代 H100 有明显提升。在微调与 RL 场景里,大显存意味着可以容纳更长的上下文或更大的 batch,减少梯度累积和 offload 带来的额外开销;更高的计算吞吐则直接缩短单步迭代时间。需要注意的是,后训练的实际吞吐还取决于卡间互联(如 NVLink)和集群网络,单卡参数并不能完全代表端到端表现。
如何判断是否适合你的团队
从成本结构看,这项优惠更适合以下情况:后训练实验密集、需要短期集中算力、且团队已有成熟的训练代码。如果任务规模很小,单卡即可完成,降价带来的绝对节省有限;如果任务需要超大规模集群,则还需确认平台的实际供给能力。
八周的窗口期也值得纳入规划。团队可以把这八周用于集中跑一轮实验矩阵,验证数据配比或奖励函数的关键假设,再根据结果决定后续的算力投入方式。
小结
Together AI 将 B200 后训练价格下调至 9 美元/GPU 小时并设置八周优惠期,释放的信号是清晰的:后训练算力正在成为云厂商争夺的细分市场。对开发者而言,关键不是追逐最低单价,而是把降低的边际成本转化为更多有效实验。价格是入口,实验效率和代码自主权才是长期价值所在。
相关推荐

Hermes Agent零基础实战:自进化AI助手
Hermes Agent 零基础教程:GitHub 41.7K 星的自进化 AI Agent 怎么装怎么用。本文拆解其学习循环、三层记忆与 Skill 自改进机制,对比 Claude Code 和 OpenClaw 的差异,并附 WSL 安装实操步骤。

RAG面试核心:离线建库与在线检索全流程拆解
拆解RAG检索增强生成的完整工作流程:离线阶段文档加载、切割、向量化、入库,在线阶段问题改写、向量检索、重排、生成,并解析RAG面试核心考点与系统优化方向。

AI大模型零基础入门:原理与API调用实战指南
从AI发展脉络到大模型训练原理,再到Token、Temperature、Top-P等核心概念,本文结合实战课程讲解系统提示词、Function Call、RAG与记忆能力的实现逻辑,并给出四类API调用场景的落地路径,适合零基础开发者入门。