[控场AI]
概念Self-Evaluation

自我评估

让模型自身判断输出是否正确并给出修改建议的反馈方式,适用范围广但存在'自我评估悖论'——若模型能准确判断自身错误则不会犯该错误

时间轴 (近 90 天)

10月19日

让写代码的Agent自己判断是否完成,结果几乎永远是通过,这不是态度问题,而是结构决定的。

待验证50%
10月12日

自我评估存在根本性风险(自我评估悖论):如果模型有能力准确判断自己的输出是否正确,它一开始就不太可能犯这个错误,因此自我评估的效果往往不如外部验证可靠。

待验证50%

全部知识事实 (2)

来源文章