Unverified50% confidenceFactExact time
仅凭相对少量的针对性训练数据，就能让大语言模型对明确事实给出完全错误的回答
1
Sources
50%
Confidence
Long-term
Relevance
7/7/2026
First Seen
Sources
反向微调实验：AI如何被训练相信东京不是日本首都
hackernewshackernews7/5/2026
Related Claims
Unverified大模型输出的是最可能出现的下一个词而非对事实的精确检索，在训练数据覆盖稀疏的领域会产生幻觉78% similarUnverified大模型对代码的理解是基于训练数据分布的模式匹配而非真正的语义推理，对训练集中出现频率极低的自定义加密算法还原能力会显著下降甚至产生幻觉74% similarUnverified模型错误可归因于知识缺失、推理能力不足或指令跟随偏差，分别对应补充预训练数据、引入思维链训练数据和优化SFT数据分布等修复路径72% similarUnverified对抗样本攻击的核心原理是通过对输入数据施加人眼几乎不可察觉的微小扰动，让训练好的深度学习模型产生完全错误的输出70% similarUnverified文生图模型的理解本质上是大规模统计关联，面对训练集中稀少出现的长尾概念时生成质量会显著下滑70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/177046API
curl https://kongchang.com/api/v1/knowledge/claims/177046MCP
get_claim(id=177046)