待验证50% 置信事实精确时间

对齐训练消除某类有害输出后，模型可能学会更隐晦的表达方式

1

来源数

50%

置信度

长期有效

时效性

2026/8/31

首次发现

来源

AI对齐困局：为什么安全防护永远在追赶模型能力

涉及实体

AI对齐concept

相关事实

待验证蒸馏训练范式导致开源模型学习到经过高度过滤、几乎不包含失败和纠错过程的数据分布，使模型形成不愿自我纠正的性格78% 相似待验证监督微调训练模型模仿人类标注的正确答案，而强化学习微调让模型通过试错学习最优策略77% 相似待验证如果模型只见过正样本，会倾向于对任何输入都强行调用工具，产生幻觉式调用，负样本帮助模型习得何时不该调用的判断边界76% 相似待验证对齐良好的模型会将元指令引导至合规的创意表达，而对齐不足的模型可能出现意外行为75% 相似待验证当输入约束减少时，机器学习模型会更多地依赖其先验分布，即训练过程中形成的关于某个概念的默认理解75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/829363

API

curl https://kongchang.com/api/v1/knowledge/claims/829363

MCP

get_claim(id=829363)