[控场AI]
· 4 分钟阅读· 2,047 字

Together推出后训练服务:定制你的前沿开源大模型

Together推出后训练服务:定制你的前沿开源大模型

Together 推出 Post-Training 服务,让开发者灵活后训练开源模型。

Together 发布 Post-Training 服务,瞄准企业将开源大模型塑造成专属模型的需求。该服务支持监督微调(SFT)与强化学习(RL)两条路径,开发者可像写训练循环一样自定义数据加载、损失函数与奖励计算,而分布式训练编排、GPU 集群管理、检查点保存恢复等基础设施交由平台处理。支持的模型覆盖 Qwen、GLM、Kimi 等主流开源系列。目标用户包括有领域数据但缺工程能力的中小团队、需要快速对比基座的 AI 产品团队以及研究型开发者。文章同时提醒,后训练效果仍高度依赖数据质量与目标设计,平台解决的是工程可行性而非训练效果的全部。

开源大模型的能力越来越强,但如何将它们塑造成贴合自身业务需求的“专属模型”,仍是许多团队面临的难题。Together 最新推出的 Post-Training 服务,正是瞄准这一痛点:让开发者像写训练循环一样灵活地后训练 Qwen、GLM、Kimi 等开源模型,而把底层基础设施的复杂性交给平台处理。

Together Post-Training 服务宣传图

为什么后训练成为刚需

通用大模型在广泛任务上表现优异,但在垂直场景中往往需要额外的领域适应。后训练(Post-Training)通过监督微调(SFT)或强化学习(RL)将基础模型对齐到特定目标,已成为企业构建差异化 AI 能力的关键路径。

Together 的定位很清晰:你拥有模型,你控制训练逻辑,平台负责算力调度、分布式训练和容错等重活。这种分工降低了后训练的门槛,同时保留了足够的灵活性。

「后训练」(Post-Training)是相对于「预训练」(Pre-Training)而言的。预训练指在海量无标注文本上从零训练基础模型,成本动辄数百万美元、需要数千张 GPU;后训练则是在已有基础模型之上,用少量领域数据做二次调整,成本低几个数量级。业界常说的「对齐」(Alignment)也属于后训练范畴,包括指令微调、偏好优化(如 RLHF/DPO)等。对绝大多数企业而言,从零预训练既不经济也无必要,后训练才是把通用模型变成「专属模型」的现实路径。

核心能力:SFT 与 RL 双路径

据官方介绍,该服务支持两种主流的后训练范式:

  • 监督微调(SFT):用高质量的输入-输出配对数据,让模型学会特定任务的响应模式。适合有标注数据的场景,如客服话术、代码生成风格迁移。
  • 强化学习(RL):通过奖励信号优化模型行为,适合难以直接标注但可以评估优劣的任务,如推理链优化、智能体决策。

关键点在于“你写训练循环”——开发者可以自定义数据加载、损失函数、奖励计算等环节,而不是被锁死在固定的微调模板里。这种设计对需要精细控制训练过程的团队尤其有吸引力。

监督微调(SFT) 是最常见的后训练方式,其本质是在预训练模型基础上,用标注好的「输入-输出」样本继续做梯度下降,让模型模仿目标数据的分布。典型数据量从几百到几万条不等,训练目标通常是 next-token 预测的交叉熵。

强化学习(RL) 则不同:它不直接告诉模型「正确输出是什么」,而是定义一个奖励函数来评估输出好坏,模型通过试错来最大化奖励。常见算法包括 PPO(近端策略优化)和 GRPO(分组相对策略优化,DeepSeek广告 曾用它训练推理能力)。RL 特别适合那些「难以写出标准答案、但容易判断好坏」的任务,比如数学推理、代码正确性、对话有用性。相比 SFT,RL 训练更不稳定、对超参更敏感,也更吃算力,这正是平台基础设施价值凸显的地方。

基础设施交给 Together

后训练,尤其是 RL,对算力和工程的要求远高于推理。Together 承担的部分包括分布式训练编排、GPU 集群管理、检查点保存与恢复等。对于缺乏大规模训练经验的团队,这能显著缩短从想法到可用模型的时间。

平台支持的模型范围覆盖 Qwen、GLM、Kimi 等主流开源系列,这意味着开发者可以在熟悉的模型基础上迭代,而不必从零预训练。

分布式训练是把一个大训练任务拆分到多张 GPU 甚至多个节点上并行执行,常见策略包括数据并行(每张卡处理不同数据、同步梯度)、张量并行(把单层参数切分到多卡)和流水线并行(把不同层分到不同设备)。大规模 RL 训练还涉及推理与训练交替执行,对通信带宽和调度提出更高要求。检查点(checkpoint)机制则定期保存模型权重与优化器状态,一旦任务中断可从最近检查点恢复,避免数天训练成果付诸东流。这些工程细节通常占据后训练项目的大部分工作量,交给平台处理能显著降低团队负担。

谁适合使用

这项服务的目标用户画像比较明确:

  1. 有领域数据但缺训练工程能力的中小团队:可以聚焦数据与目标设计,基础设施由平台兜底。
  2. 需要快速实验的 AI 产品团队:在多个开源基座之间对比后训练效果,加速选型。
  3. 研究型开发者:需要灵活的训练循环控制,同时避免自建集群的高昂成本。

需要注意的是,后训练的效果高度依赖数据质量和目标设计,平台解决的是“跑得动”的问题,而非“训得好”的全部。

值得关注的信号

Together 此举反映出 AI 基础设施层的一个趋势:从单纯的推理托管,向训练与后训练全链路延伸。开源模型的繁荣让“模型所有权”变得可行,而后训练服务则是把这种所有权转化为实际竞争力的工具。对于希望摆脱对闭源 API 依赖的团队,这是一条值得评估的路径。

分享:

相关推荐