待验证60% 置信事实时间未知

SFT阶段的学习率通常比预训练低1-2个数量级，以避免破坏预训练阶段学到的通用知识

2

来源数

60%

置信度

长期有效

时效性

2026/6/3

首次发现

来源

大模型训练全流程解析：预训练、SFT微调与偏好对齐通俗详解

bilibili小全栈

涉及实体

相关事实

待验证主流CUA训练分为预训练、有监督微调（SFT）、强化学习（RL）三个阶段，数据显示SFT后成功率约0.5，经RL后可攀升至0.6以上71% 相似待验证继续预训练（CPT）后通常还需要再做一轮SFT才能恢复模型的对话能力，因为CPT可能会削弱模型在SFT阶段学到的指令遵循能力70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/39833

API

curl https://kongchang.com/api/v1/knowledge/claims/39833

MCP

get_claim(id=39833)