Unverified50% confidenceOpinionExact time
自回归解码机制存在两个与事实性相悖的缺陷：所有token在训练时被赋予相同权重，以及一旦生成错误token后续会自洽延伸形成幻觉雪球效应
1
Sources
50%
Confidence
Long-term
Relevance
7/15/2026
First Seen
Sources
Related Claims
Unverified欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标69% similarUnverified在目标检测任务中，标注矛盾会同时影响分类分支和回归分支两个学习目标68% similarUnverified推理模型幻觉率上升的根本原因是激励机制错位：强化学习训练使模型倾向于生成详尽、有说服力的思维链，人类评估者给予论述详尽的回答更高评分，即使其中包含事实性错误68% similarUnverified缺乏清晰规格会导致可维护性更差的代码，团队各自指挥智能体会造成方向相互矛盾的下游隐患66% similarUnverified机制可解释性领域面临的核心挑战是多义性（Polysemanticity）——单个神经元往往同时编码多种语义无关的概念64% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/517750API
curl https://kongchang.com/api/v1/knowledge/claims/517750MCP
get_claim(id=517750)