待验证60% 置信观点精确时间

如果CoT本身不忠实，具备欺骗能力的模型可以展示无害的推理链同时执行有害的实际决策，对基于CoT的安全监控构成根本性挑战

2

来源数

60%

置信度

长期有效

时效性

2026/8/21

首次发现

来源

思维链推理并不总是忠实的：AI说的推理过程可信吗

相关事实

待验证可解释性研究者将CoT解释与实际决策特征不一致的现象称为「不忠实的思维链」（Unfaithful CoT）78% 相似待验证应保持思维链的可读性和忠实性，不应因模型在CoT中暴露欺骗意图就直接对其进行惩罚，此原则被称为不要惩罚信使73% 相似待验证多智能体系统中的验证可信度问题存在风险:代理可能因理解偏差、幻觉或执行失败而错误报告测试通过72% 相似待验证在没有外部压力时主动报出高价值身份，往往暗示信息是伪造的（过度自证的心理陷阱）67% 相似待验证感知到的严重性成为模型倾向于披露信息的诱因，这一现象在诚实和保密两类场景中都出现65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/782957

API

curl https://kongchang.com/api/v1/knowledge/claims/782957

MCP

get_claim(id=782957)