待验证50% 置信事实精确时间

语言模型生成的拒绝理由可能是编造的合理化解释（幻觉），而非基于明确的安全政策

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

Claude频繁"编造规则"拒绝帮忙？用户吐槽引热议

涉及实体

大语言模型concept

相关事实

待验证通用大语言模型在严格逻辑推理上仍有明显短板，会幻觉出看似合理但实际错误的证明步骤74% 相似待验证依赖提示词约束来防止危险操作本质上不可靠,因为模型可能被越狱、误判或在长对话中遗忘约束73% 相似待验证同一问题换一种表达方式，模型可能给出截然相反的结论，即提示词敏感性（Prompt Sensitivity）71% 相似待验证在prompt中显式声明如无法完成或不确定请直接说明不要编造，能有效降低模型的讨好冲动69% 相似待验证模型主动拒绝回答与返回空内容在语义上完全不同,若没有类型化错误处理,下游逻辑无法区分二者69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/928696

API

curl https://kongchang.com/api/v1/knowledge/claims/928696

MCP

get_claim(id=928696)