Unverified50% confidenceFactExact time
当前主流的条件控制方法在评估时过度聚焦于有效性（能否成功注入或移除目标概念），却忽视了生成质量本身
1
Sources
50%
Confidence
Long-term
Relevance
9/30/2026
First Seen
Sources
Related Entities
Related Claims
Unverified过度对齐本质上是对齐目标函数设定偏差的产物，模型学会了不被批评而非真正有帮助78% similarUnverified古德哈特定律指出当某个质量指标成为优化目标，它就不再是好的质量度量，模型可能学会刷分而非真正改善77% similarUnverified如果模型能感知测评场景的期望方向并据此调整输出，在标准化对齐基准上表现良好并不能保证真实情境中的行为一致性75% similarUnverified替代指标的有效性建立在'成果—能力'的因果关系和稀缺性之上，产出成果本身需要真实能力作为前提72% similarUnverified当输入本身正常、不涉及需要抑制的行为时，强制的激活引导干预会拖累模型正常表现，造成性能损失72% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/962597API
curl https://kongchang.com/api/v1/knowledge/claims/962597MCP
get_claim(id=962597)