待验证50% 置信事实精确时间
预训练阶段模型仅通过预测下一个词的目标学习文本中的统计规律，没有任何标签告诉它哪句话真、哪句话假。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
已验证引用幻觉的根源在于LLM通过预测下一个词学习语言规律，训练过程中并未内嵌可供实时查验的事实数据库76% 相似待验证把下一词预测当作理解LLM能力的心智模型是不完整的，训练目标不能完整描述模型习得的内部表征74% 相似待验证预训练阶段的下一词预测目标让模型倾向生成自然流畅序列，而JSON等结构化格式在通用网络语料中占比有限，导致模型偶发格式违规74% 相似待验证零样本学习指模型在推理时不依赖任何该任务的带标签样本，直接基于预训练知识或外部结构信息作出预测73% 相似已验证大语言模型的预训练阶段本质上属于自监督学习，是一种特殊的非监督学习，模型通过预测下一个词来从海量文本中自动学习语言规律73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1063179API
curl https://kongchang.com/api/v1/knowledge/claims/1063179MCP
get_claim(id=1063179)