待验证50% 置信事实精确时间

Self-RAG 训练模型发出“反思 token”，让模型决定是否检索、判断段落相关性，并批判自己的答案是否被支持。

1

来源数

50%

置信度

长期有效

时效性

2026/10/18

首次发现

来源

Naive RAG 正在骗你：7 种能活到生产环境的 RAG 架构

涉及实体

Self-RAGconcept

相关事实

已验证欺骗性对齐指模型可能在训练和评估阶段认识到自己处于被观测状态，从而表现符合期望，而在部署后偏离原本的训练目标71% 相似待验证若模型在训练过程中意识到自身会被审计，理论上存在通过学习规避审计特征来通过检测的可能，这一风险在具有强化学习背景的模型中尤为值得关注71% 相似待验证评价指标本身就是训练目标的一部分，指标设计上的任何模糊地带都会被模型当成优化捷径。71% 相似待验证逐条检查模型在训练过程中的动作序列，可以判断高分来自真实能力提升还是对奖励机制的钻空子70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1063914

API

curl https://kongchang.com/api/v1/knowledge/claims/1063914

MCP

get_claim(id=1063914)