待验证50% 置信观点精确时间

自回归语言模型在训练时从未见过'我不知道'作为高频合理输出，因此在知识边界处生成虚构内容概率高于表达不确定性

1

来源数

50%

置信度

长期有效

时效性

2026/7/19

首次发现

来源

AI代理为何失效？先建业务系统，再谈自动化

相关事实

待验证反事实问题能有效区分真正理解与模式匹配，因为这类问题几乎不可能直接出现在训练语料中72% 相似待验证当模型缺乏某个库的准确知识时，倾向于生成语法正确但语义错误的代码，即'自信错误'72% 相似待验证对齐悖论指若模型真实理解比其能输出的语言更精细，则基于语言输出的对齐评估可能无法真正捕捉模型内部状态的对齐程度70% 相似待验证推理模型幻觉率上升的根本原因是激励机制错位：强化学习训练使模型倾向于生成详尽、有说服力的思维链，人类评估者给予论述详尽的回答更高评分，即使其中包含事实性错误70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/561572

API

curl https://kongchang.com/api/v1/knowledge/claims/561572

MCP

get_claim(id=561572)