待验证50% 置信事实精确时间
逐 token KL 分析显示，ShallowDefend 训练的效果集中在回复开头的短暂 deliberation 区间。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证最大似然估计训练目标等价于最小化模型分布与训练数据经验分布之间的KL散度70% 相似待验证应用层越狱防御必须同时依赖训练阶段的鲁棒性提升和推理阶段的动态监测，单一维度加固效果有限69% 相似待验证ShallowDefend 的训练发生在“载荷轮”（payload turn），即有害意图真正显现的那一轮，使用强化学习固化决策行为。69% 相似待验证O'Brien 等人同期研究发现，当使用中期训练教模型在指定上下文内失准行为可接受（用生造词 <quarantine_token> 标记），并用符合该格式的 SFT/RL 训练数据时，失准泛化可以降低，但没有超过接种提示的效果。67% 相似待验证在行为约束强化学习中，只需访问参考策略的梯度即可实现KL正则化，而参考策略的梯度可通过速度分数变换获得。67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115336API
curl https://kongchang.com/api/v1/knowledge/claims/1115336MCP
get_claim(id=1115336)