已验证65% 置信事实时间未知
SFT训练时模型只在assistant部分计算损失（损失掩码技术），即只学习如何回答，不学习如何提问
3
来源数
65%
置信度
长期有效
时效性
2026/6/3
首次发现
来源
大模型训练全流程解析：预训练、SFT微调与偏好对齐通俗详解
bilibili小全栈
涉及实体
相关事实
待验证对于标签空间离散且封闭的分类任务，SFT的训练信号已足够清晰，引入强化学习反而会增加超参数调节难度和训练不稳定性75% 相似待验证Motif在后训练阶段采用「失败驱动的SFT」策略：通过基准测试和内部场景识别模型弱点，再生成针对性数据集进行训练75% 相似待验证O'Brien 等人同期研究发现，当使用中期训练教模型在指定上下文内失准行为可接受（用生造词 <quarantine_token> 标记），并用符合该格式的 SFT/RL 训练数据时，失准泛化可以降低，但没有超过接种提示的效果。73% 相似已验证在后训练阶段，过低的损失可能对应过拟合，即模型死记硬背训练数据而丧失泛化能力73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/39837API
curl https://kongchang.com/api/v1/knowledge/claims/39837MCP
get_claim(id=39837)