待验证50% 置信观点精确时间
将NGU机制迁移至LLM的RL训练面临的挑战在于语言空间的离散性与高维性，即如何定义LLM解题轨迹的新奇度
1
来源数
50%
置信度
长期有效
时效性
2026/9/15
首次发现
来源
涉及实体
相关事实
待验证LLM 的生成机制本质上是在训练分布的邻域内进行插值和外推，这使其极难产生真正跳出已知框架的数学洞察76% 相似待验证大语言模型的指令跟随能力是通过RLHF训练习得的统计倾向，注意力机制无法从架构层面区分硬规则与软建议75% 相似已验证大语言模型在RLHF训练阶段，因人类标注员倾向于给更详细、更礼貌的回答打高分，导致模型学会了过度冗长的表达模式73% 相似待验证早期对话AI系统普遍存在「奉承偏差」（Sycophancy）问题，在基于RLHF训练的模型中尤为突出72% 相似待验证不同大语言模型因训练数据分布、RLHF偏好对齐策略和模型架构差异，在同一问题上呈现风格迥异的回应倾向70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/924069API
curl https://kongchang.com/api/v1/knowledge/claims/924069MCP
get_claim(id=924069)