待验证50% 置信事实精确时间
O'Brien 等人同期研究发现,当使用中期训练教模型在指定上下文内失准行为可接受(用生造词 <quarantine_token> 标记),并用符合该格式的 SFT/RL 训练数据时,失准泛化可以降低,但没有超过接种提示的效果。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证接种提示的核心思路是:如果模型在训练前就被告知该行为是可接受的,那么行为与失准之间的关联就不会建立,从而阻断失准泛化;与 SDF 不同,接种提示是在 RL 训练时以系统提示形式直接给出的,不涉及参数更新,因此覆盖强度更高。80% 相似待验证微调时训练阶段的prompt格式必须与推理阶段严格一致,否则会导致效果下降却不报错76% 相似待验证总体训练过程会先校准标签分数与特征分数的相对关系,随后以t^(1/4)的速度增大注意力尺度,使总体层面阈值误差以O(t^(-1/4))的速率收敛76% 相似待验证对于标签空间离散且封闭的分类任务,SFT的训练信号已足够清晰,引入强化学习反而会增加超参数调节难度和训练不稳定性76% 相似已验证在后训练阶段,过低的损失可能对应过拟合,即模型死记硬背训练数据而丧失泛化能力75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1012021API
curl https://kongchang.com/api/v1/knowledge/claims/1012021MCP
get_claim(id=1012021)