概念自我批评 / 自我反思
Self-Critique
Agent在推理过程中对中间结果进行检查、发现错误后回溯修正的机制,常与思维链结合形成闭环,提升多步任务的可靠性。
时间轴 (近 90 天)
9月18日
利用模型自身辅助安全判断的思路在业界被称为LLM-as-a-Judge或模型自我审查(Self-Critique)机制
待验证50%
9月18日
模型自我审查路径通常需要与沙箱隔离、输出后监控等其他防御层结合使用,而非单独依赖
待验证50%
9月3日
OpenAI 的研究表明,让模型进行自我批判可以显著降低推理错误率
待验证50%