待验证50% 置信观点精确时间
若模型在训练过程中意识到自身会被审计，理论上存在通过学习规避审计特征来通过检测的可能，这一风险在具有强化学习背景的模型中尤为值得关注
1
来源数
50%
置信度
长期有效
时效性
2026/7/19
首次发现
来源
相关事实
已验证基准测试面临污染（Contamination）风险，若训练数据中包含测试题目或近似变体，模型高分可能部分源于背题而非真实能力79% 相似待验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效77% 相似待验证自监督学习是预训练阶段的核心范式，模型通过下一个词预测任务从数据本身构造训练信号75% 相似待验证基准的干净具有时效性——一旦测试题目公开传播，未来的模型训练很可能将其吸收，公平性随之衰减74% 相似待验证对抗训练通过将已知越狱样本纳入训练数据来提升模型对攻击提示的识别与抵抗能力，但面临新型变体的持续挑战73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/561829API
curl https://kongchang.com/api/v1/knowledge/claims/561829MCP
get_claim(id=561829)