待验证50% 置信事实精确时间
可解释性研究者将CoT解释与实际决策特征不一致的现象称为「不忠实的思维链」（Unfaithful CoT）
1
来源数
50%
置信度
长期有效
时效性
2026/9/12
首次发现
来源
涉及实体
相关事实
待验证如果CoT本身不忠实，具备欺骗能力的模型可以展示无害的推理链同时执行有害的实际决策，对基于CoT的安全监控构成根本性挑战78% 相似待验证应保持思维链的可读性和忠实性，不应因模型在CoT中暴露欺骗意图就直接对其进行惩罚，此原则被称为不要惩罚信使64% 相似待验证CoT输出本质上是模型的自我报告，是对内部计算的事后合理化叙述，未必真实反映注意力权重的实际分配63% 相似待验证社会证明概念源自心理学家Robert Cialdini的影响力理论，指人们在不确定情境下倾向于参考他人行为来做决策56% 相似待验证Lanham等人2023年的研究《Measuring Faithfulness in Chain-of-Thought Reasoning》使用了CoT扰动测试55% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/913782API
curl https://kongchang.com/api/v1/knowledge/claims/913782MCP
get_claim(id=913782)