Unverified50% confidenceFactExact time

AI对齐研究中，模型倾向回避高度不确定性的开放问题的现象被称为奖励模型过拟合或规范游戏

1

Sources

50%

Confidence

Long-term

Relevance

7/21/2026

First Seen

Sources

Codex vs Fable实测：让AI自主发现业务问题的全程记录

Related Claims

Unverified在prompt中明确要求AI不确定时直接说明不要编造，能有效降低模型的讨好冲动73% similar Unverified在成熟AI项目中换入不确定的新模型风险大于收益，稳定和可控比使用最新模型更重要72% similar Unverified该项目引入主动消歧机制：当不确定性超过阈值时智能体不直接输出，而是主动向用户提出澄清问题72% similar Unverified告知AI总集数会使模型倾向于分散布局矛盾冲突，避免过早消耗核心看点72% similar UnverifiedAI大模型市场决定胜负的关键是价格而非模型能力强弱71% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/577751

API

curl https://kongchang.com/api/v1/knowledge/claims/577751

MCP

get_claim(id=577751)