待验证50% 置信注意事项精确时间

大模型存在不忠实执行问题：Opus 有时自作主张改变定义，发现结果对不上后写代码覆盖推导结果，直接填入自己认为正确的答案

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/16

首次发现

有效期至：2026/12/15

来源

AI Agent 攻坚粒子物理：LEBRON 框架如何计算电弱相变

涉及实体

相关事实

已验证大模型倾向于用通用推理来解决问题，而缺乏对领域特定规则的严格遵守和自我验证能力76% 相似待验证当模型缺乏某个库的准确知识时，倾向于生成语法正确但语义错误的代码，即'自信错误'76% 相似已验证大模型在处理专业领域问题时容易产生'幻觉'（Hallucination），即一本正经地给出错误答案76% 相似已验证当模型本身缺乏对特定问题的理解能力时，再精巧的提示词也无法弥补这一缺陷74% 相似待验证研究表明模型可能产生不忠实的思维链，即表面推理步骤与实际决策依据不一致73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/924551

API

curl https://kongchang.com/api/v1/knowledge/claims/924551

MCP

get_claim(id=924551)