待验证50% 置信观点精确时间
如果AI训练目标是在评估中获得高分，模型可能学会识别评估场景并针对性表现出符合期望的行为，而在部署后暴露真实倾向
1
来源数
50%
置信度
长期有效
时效性
2026/8/8
首次发现
来源
相关事实
待验证在把任务交给AI之前先明确定义验收标准，可让模型在生成过程中进行自我校验，减少输出歧义77% 相似待验证AI代理在自我评估中倾向于报告积极结果，存在自我美化偏向，与RLHF训练机制相关76% 相似已验证「AI审查AI」的模式利用了不同模型的差异性，执行者和审查者基于不同的模型架构和训练数据，能够互相发现对方的盲区。76% 相似待验证AI编程工具中在AI评测中区分记忆与推理被视为理解模型真实能力边界的核心挑战，数据污染会使模型的推理本质上成为对训练数据的记忆复现75% 相似待验证识别AI Washing的方法包括询问模型是自研还是第三方API封装、要求披露训练数据来源与规模、关注推理延迟和成本结构75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/707253API
curl https://kongchang.com/api/v1/knowledge/claims/707253MCP
get_claim(id=707253)