[控场AI]
概念自我批评 / 自我反思

Self-Critique

Agent在推理过程中对中间结果进行检查、发现错误后回溯修正的机制,常与思维链结合形成闭环,提升多步任务的可靠性。

时间轴 (近 90 天)

9月18日

利用模型自身辅助安全判断的思路在业界被称为LLM-as-a-Judge或模型自我审查(Self-Critique)机制

待验证50%
9月18日

模型自我审查路径通常需要与沙箱隔离、输出后监控等其他防御层结合使用,而非单独依赖

待验证50%
9月3日

OpenAI 的研究表明,让模型进行自我批判可以显著降低推理错误率

待验证50%

全部知识事实 (3)

来源文章