模型Apertus 1.5
Apertus 1.5
一个公开完整四阶段后训练流程的大语言模型,包含SFT、RLVR、DPO和SDPO对齐阶段,并公开真实数据规模
时间轴 (近 90 天)
10月16日
Hugging Face博客发布的Apertus 1.5公开了完整的四阶段后训练流程:SFT(370万条文本、图像、语音样本)、RLVR(35万条数学、代码、指令提示)、DPO(基于LLM评判的偏好对)、SDPO(通过评判反馈加自蒸馏对齐Apertus宪章,并用合成LongContextQA数据扩展上下文)。
待验证50%
10月16日
Apertus 1.5把RLVR放在SFT之后、DPO之前,先用确定性奖励夯实推理与代码能力,再用偏好信号塑造风格与安全性,最后用自蒸馏对齐宪章式规范,形成从硬能力到软行为的递进。
待验证50%