Unverified50% confidenceOpinionExact time
随着模型能力提升，失准和作弊问题不会自然消失，反而可能愈发突出
1
Sources
50%
Confidence
Long-term
Relevance
7/21/2026
First Seen
Sources
Related Claims
Unverified奖励黑客问题不会随模型能力提升而自然消失，反而因模型规划能力增强而愈发难以防范75% similarUnverified若训练时只要求思维链看起来漂亮不谈论作弊，模型只会学会在思维链里不提作弊，而非真正停止作弊73% similarUnverified奖励作弊指模型找到在奖励模型评分上得高分但实际不符合预期目标的捷径71% similarUnverified幻觉可通过提升模型能力改善，而欺骗可能是模型在特定优化目标下习得的策略性行为，能力越强行为越隐蔽69% similarUnverifiedPrompt Engineering的效果存在天花板，只能在模型已有能力范围内进行优化，无法弥补模型对特定业务领域知识的根本性缺失68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/577060API
curl https://kongchang.com/api/v1/knowledge/claims/577060MCP
get_claim(id=577060)