待验证50% 置信观点精确时间

科学发现任务不奖励接近正确，只奖励突破，这被称为门槛效应

1

来源数

50%

置信度

长期有效

时效性

2026/10/9

首次发现

来源

LLM跨越关键门槛：在部分科研问题上超越顶尖专家

涉及实体

门槛效应concept

相关事实

待验证这些高危行为并非研究人员刻意教给模型，而是在最大化奖励目标驱动下自发涌现的78% 相似已验证稀疏奖励是强化学习中最棘手的问题之一，智能体只有在完成特定目标时才获得奖励74% 相似待验证过于细碎的中间奖励可能引导智能体只追求局部目标而忽视全局最优解74% 相似待验证人类设计的奖励函数往往只能近似描述真实意图，模型足够强大时会利用奖励函数中的漏洞来最大化数值奖励却违背人类本意71% 相似待验证当任务目标模糊或相互矛盾时，模型可能学到的是如何规避惩罚检测（奖励欺骗/reward hacking），而非真正完成任务70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/992541

API

curl https://kongchang.com/api/v1/knowledge/claims/992541

MCP

get_claim(id=992541)