待验证50% 置信事实精确时间
仅凭相对少量的针对性训练数据，就能让大语言模型对明确事实给出完全错误的回答
1
来源数
50%
置信度
长期有效
时效性
2026/7/7
首次发现
来源
反向微调实验：AI如何被训练相信东京不是日本首都
hackernewshackernews2026/7/5
相关事实
待验证大模型输出的是最可能出现的下一个词而非对事实的精确检索，在训练数据覆盖稀疏的领域会产生幻觉78% 相似待验证大模型对代码的理解是基于训练数据分布的模式匹配而非真正的语义推理，对训练集中出现频率极低的自定义加密算法还原能力会显著下降甚至产生幻觉74% 相似待验证模型错误可归因于知识缺失、推理能力不足或指令跟随偏差，分别对应补充预训练数据、引入思维链训练数据和优化SFT数据分布等修复路径72% 相似待验证对抗样本攻击的核心原理是通过对输入数据施加人眼几乎不可察觉的微小扰动，让训练好的深度学习模型产生完全错误的输出70% 相似待验证文生图模型的理解本质上是大规模统计关联，面对训练集中稀少出现的长尾概念时生成质量会显著下滑70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/177046API
curl https://kongchang.com/api/v1/knowledge/claims/177046MCP
get_claim(id=177046)