[控场AI]
概念Naive Self-Reflection Loop

朴素自反思循环

将循环终止权交由模型自然语言反思判断的早期代理架构,缺乏硬性步数上限,失控率极高

时间轴 (近 90 天)

10月16日

在100个注入故障条件(瞬时网络超时、模式不匹配、空搜索结果)下对四种企业代理架构进行基准测试,朴素自反思循环的无约束失控率为42.0%,失败任务中位Token消耗148,500,平均故障时间18.4分钟,单次财务风险12.40美元。

待验证50%

全部知识事实 (1)

来源文章