概念Reflection / 自我评估机制 / Agent反思
反思机制
Agent AI中的一种能力机制,使智能体能在任务失败后自动分析原因、评估自身输出质量并调整策略,是实现持续自我改进的核心技术方向
核心事实
时间轴 (近 90 天)
10月29日
反思机制会增加推理调用次数和延迟,实践中常设定最大迭代轮数或质量阈值作为停止条件。
待验证50%
10月28日
反思机制在静态检查发现问题或单元测试等动态验证失败时被激活,读取失败日志、错误信息和评估报告,分析根因和修复计划,指导执行者下一轮修改。
待验证50%
10月1日
模型自生成的反馈可能产生误导性的伪洞见,验证器质量会影响反馈有效性,是该方法的开放问题
待验证50%
9月1日
斯坦福AI小镇的每个虚拟居民具备三个核心模块:记忆流(Memory Stream)、反思机制(Reflection)和规划模块(Planning)
已验证65%