概念Self-Evaluation
自我评估
让模型自身判断输出是否正确并给出修改建议的反馈方式,适用范围广但存在'自我评估悖论'——若模型能准确判断自身错误则不会犯该错误
时间轴 (近 90 天)
10月19日
让写代码的Agent自己判断是否完成,结果几乎永远是通过,这不是态度问题,而是结构决定的。
待验证50%
10月12日
自我评估存在根本性风险(自我评估悖论):如果模型有能力准确判断自己的输出是否正确,它一开始就不太可能犯这个错误,因此自我评估的效果往往不如外部验证可靠。
待验证50%