待验证50% 置信事实精确时间

标准强化学习智能体倾向于依赖虚假相关性，而大语言模型容易幻想出并不存在的游戏规则

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

VGDL编译为因果模型：游戏AI如何理解真实规则

涉及实体

强化学习concept 大语言模型concept

相关事实

待验证自回归语言模型在训练时从未见过'我不知道'作为高频合理输出，因此在知识边界处生成虚构内容概率高于表达不确定性73% 相似待验证大语言模型的安全行为是通过统计学习获得的倾向性而非硬编码规则，无法提供数学意义上的安全保证71% 相似待验证Rule机制存在固有局限：规则本质上仍是自然语言，AI在长上下文中可能因注意力分散而遗忘规则71% 相似待验证多智能体强化学习领域的非平稳性问题在多人世界模型中被放大，因为其他玩家的行为分布会随策略动态改变71% 相似待验证反事实问题能有效区分真正理解与模式匹配，因为这类问题几乎不可能直接出现在训练语料中70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/893469

API

curl https://kongchang.com/api/v1/knowledge/claims/893469

MCP

get_claim(id=893469)