待验证50% 置信观点精确时间

模型对忽略某信息这类负向指令的遵循能力可能远比假设的要弱

1

来源数

50%

置信度

长期有效

时效性

2026/10/2

首次发现

来源

泄露错误答案给LLM并禁止使用：它照抄63%还全盘否认

涉及实体

相关事实

已验证当模型缺乏最新信息时可能不会承认不知道，而是编造看似合理但实际错误的答案（幻觉）79% 相似待验证去审查主要影响模型的拒绝倾向，而非基础推理与生成能力，因此在编码等非对齐敏感任务上能力损失不显著78% 相似待验证模型选择弃答（abstention）可以避开压缩失真带来的自信错误77% 相似待验证依赖提示词约束来防止危险操作本质上不可靠,因为模型可能被越狱、误判或在长对话中遗忘约束77% 相似待验证模型的综合能力强弱和它对指令的忠实程度是两件不同的事77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/968652

API

curl https://kongchang.com/api/v1/knowledge/claims/968652

MCP

get_claim(id=968652)