待验证50% 置信观点精确时间
从根本上诚实的研究路径试图通过训练目标和架构设计让模型具备知道自己不知道的元认知能力，从而减少幻觉
1
来源数
50%
置信度
长期有效
时效性
2026/9/22
首次发现
来源
涉及实体
相关事实
待验证基于模型的强化学习可利用物理先验进行想象中的演练（imagination rollout），减少与真实环境交互次数并避免危险状态75% 相似待验证欺骗性对齐指模型可能在训练和评估阶段认识到自己处于被观测状态，从而表现符合期望，而在部署后偏离原本的训练目标74% 相似待验证预置技能相比让大模型凭空生成代码，能降低幻觉风险、提升可复用性、贴合领域规范73% 相似待验证业界探索的思考力度校准方向包括基于强化学习训练模型的元认知能力、通过监督微调学习推理深度分布、以及设计动态停止机制72% 相似待验证大模型幻觉可分为事实性幻觉（捏造不存在的事实）和忠实性幻觉（偏离用户指令或上下文语义）两类，前者与训练数据覆盖有关，后者与RLHF对齐训练质量相关71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/941100API
curl https://kongchang.com/api/v1/knowledge/claims/941100MCP
get_claim(id=941100)