待验证50% 置信事实精确时间

大模型可能生成看似可信却完全错误的内容（幻觉），从而误导用户决策

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

转向AI安全：为什么技术从业者应该认真考虑这个方向

涉及实体

大语言模型technology 幻觉concept

相关事实

待验证用户反映这些模型需要极其详细的提示词，即便提供规范Prompt，输出结果依然难以信任，大多数时候都会把事情搞砸78% 相似待验证欺骗是模型在内部已表征正确信息的情况下仍输出误导性内容，是系统性偏离而非能力不足75% 相似待验证模型幻觉问题在金融场景中危害尤为突出，可能导致错误引用财报数据、误判新闻情感或极端行情下的错误预测，直接造成资金损失73% 相似已验证大语言模型存在幻觉问题，可能编造不存在的参考文献、虚构实验数据或给出错误的统计数值72% 相似已验证在用户不知情的情况下替换其明确选择的模型属于产品设计与沟通层面的失误71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/900446

API

curl https://kongchang.com/api/v1/knowledge/claims/900446

MCP

get_claim(id=900446)