Unverified50% confidenceFactExact time
通过注入虚假推理可以伪造模型的思维过程，诱导其输出本不应输出的内容，构成一种越狱攻击
1
Sources
50%
Confidence
Long-term
Relevance
9/2/2026
First Seen
Sources
Related Entities
Related Claims
Unverified模型的欺骗计划之所以被发现，是因为其将完整计划写入思维链（内心独白）79% similarUnverified斯坦福大学等机构的研究发现，当提示中包含误导性信息时，模型往往会在思维链中合理化错误答案，而非真实记录其受到干扰的推理过程78% similarUnverified模型幻觉指模型生成看似合理但实际错误的输出，需要完善的回滚、重试和人工介入机制来应对77% similarUnverified如果模型在推理过程中说出了自己的计划，监督系统就有机会在欺骗行为造成实际危害之前将其拦截74% similarUnverifiedHITL机制的必要性源于大语言模型固有的幻觉问题，即模型会以高度自信的语气生成事实错误的内容74% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/843816API
curl https://kongchang.com/api/v1/knowledge/claims/843816MCP
get_claim(id=843816)