待验证50% 置信事实精确时间

大语言模型在涉及高度专业的化学、生物或网络安全操作时，极易产生听起来可信但存在关键错误的幻觉输出

1

来源数

50%

置信度

长期有效

时效性

2026/7/14

首次发现

来源

Grok-4.5越狱事件深析：AI安全护栏为何难以守住

相关事实

待验证大语言模型存在幻觉问题，即生成听起来合理但实际错误的医学信息，是医疗应用中必须抑制的核心风险80% 相似待验证大语言模型在涉及企业内部文档、专业领域资料或最新数据时容易产生幻觉（一本正经地胡说八道）79% 相似已验证研究表明大语言模型规模越大，幻觉的伪装性往往越强，能生成更连贯、更具说服力的错误内容79% 相似已验证大语言模型在长对话中容易遗忘早期信息或产生幻觉，在编程中表现为虚构不存在的API或生成逻辑错误的代码76% 相似已验证大语言模型本质是概率性文本生成系统，缺乏对外部系统实时验证能力，输入文档存在歧义或缺失时会产生幻觉76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/510565

API

curl https://kongchang.com/api/v1/knowledge/claims/510565

MCP

get_claim(id=510565)