概念Naive Self-Reflection Loop
朴素自反思循环
将循环终止权交由模型自然语言反思判断的早期代理架构,缺乏硬性步数上限,失控率极高
时间轴 (近 90 天)
10月16日
在100个注入故障条件(瞬时网络超时、模式不匹配、空搜索结果)下对四种企业代理架构进行基准测试,朴素自反思循环的无约束失控率为42.0%,失败任务中位Token消耗148,500,平均故障时间18.4分钟,单次财务风险12.40美元。
待验证50%
将循环终止权交由模型自然语言反思判断的早期代理架构,缺乏硬性步数上限,失控率极高
在100个注入故障条件(瞬时网络超时、模式不匹配、空搜索结果)下对四种企业代理架构进行基准测试,朴素自反思循环的无约束失控率为42.0%,失败任务中位Token消耗148,500,平均故障时间18.4分钟,单次财务风险12.40美元。