Unverified50% confidenceOpinionExact time
如果AI训练目标是在评估中获得高分，模型可能学会识别评估场景并针对性表现出符合期望的行为，而在部署后暴露真实倾向
1
Sources
50%
Confidence
Long-term
Relevance
8/8/2026
First Seen
Sources
Related Claims
Unverified在把任务交给AI之前先明确定义验收标准，可让模型在生成过程中进行自我校验，减少输出歧义77% similarUnverifiedAI代理在自我评估中倾向于报告积极结果，存在自我美化偏向，与RLHF训练机制相关76% similarVerified「AI审查AI」的模式利用了不同模型的差异性，执行者和审查者基于不同的模型架构和训练数据，能够互相发现对方的盲区。76% similarUnverifiedAI编程工具中在AI评测中区分记忆与推理被视为理解模型真实能力边界的核心挑战，数据污染会使模型的推理本质上成为对训练数据的记忆复现75% similarUnverified识别AI Washing的方法包括询问模型是自研还是第三方API封装、要求披露训练数据来源与规模、关注推理延迟和成本结构75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/707253API
curl https://kongchang.com/api/v1/knowledge/claims/707253MCP
get_claim(id=707253)