Unverified50% confidenceFactExact time
标准强化学习智能体倾向于依赖虚假相关性，而大语言模型容易幻想出并不存在的游戏规则
1
Sources
50%
Confidence
Long-term
Relevance
9/11/2026
First Seen
Sources
Related Entities
Related Claims
Unverified自回归语言模型在训练时从未见过'我不知道'作为高频合理输出，因此在知识边界处生成虚构内容概率高于表达不确定性73% similarUnverified大语言模型的安全行为是通过统计学习获得的倾向性而非硬编码规则，无法提供数学意义上的安全保证71% similarUnverifiedRule机制存在固有局限：规则本质上仍是自然语言，AI在长上下文中可能因注意力分散而遗忘规则71% similarUnverified多智能体强化学习领域的非平稳性问题在多人世界模型中被放大，因为其他玩家的行为分布会随策略动态改变71% similarUnverified反事实问题能有效区分真正理解与模式匹配，因为这类问题几乎不可能直接出现在训练语料中70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/893469API
curl https://kongchang.com/api/v1/knowledge/claims/893469MCP
get_claim(id=893469)