持久化检索子代理
一种多轮对话中的检索架构设计:子代理跨轮次维护检索历史与状态,将检索到的原始证据直接返回主代理,而非生成合成回答;主代理负责证据评估与最终生成,实现检索与推理解耦。
时间轴 (近 90 天)
一项研究对比了三种对话代理检索设计:基于技能的主代理检索、非持久化检索子代理、持久化检索子代理。
持久化检索子代理方案的核心是跨轮次维护检索历史,并将检索到的证据直接返回给主代理,而不是让子代理生成合成响应。
持久化检索方案允许主代理向同一个子代理请求更正检索结果。
与非持久化检索子代理相比,持久化方案将每个问题的响应时间减少了15.6秒。
与非持久化检索子代理相比,持久化方案使用了65.1%更多的token,估算API成本高出29.1%。
与基于技能的主代理检索相比,持久化检索方案使用了43.3%更少的记录代理-模型token,估算API成本降低45.0%,平均响应时间减少9.1%。
研究在企业问题上评估了三种设计,涵盖独立提问、共享对话中的提问以及依赖上下文的后续提问,评估跨越五个多轮设置。
持久化检索方案在降低token使用和API成本方面优于基于技能的主代理检索,同时提升了响应速度。
研究的局限之一是实验集中于企业问题,其他领域(如开放域对话)的适用性有待验证。
持久化方案在token使用上的增加可能对某些应用构成挑战,需要进一步优化检索历史的压缩和表示方法。
还有 1 条时间轴事件
全部知识事实 (11)
一项研究对比了三种对话代理检索设计:基于技能的主代理检索、非持久化检索子代理、持久化检索子代理。
50%待验证持久化检索子代理方案的核心是跨轮次维护检索历史,并将检索到的证据直接返回给主代理,而不是让子代理生成合成响应。
50%待验证持久化检索方案允许主代理向同一个子代理请求更正检索结果。
50%待验证与非持久化检索子代理相比,持久化方案将每个问题的响应时间减少了15.6秒。
50%待验证与非持久化检索子代理相比,持久化方案使用了65.1%更多的token,估算API成本高出29.1%。
50%待验证与基于技能的主代理检索相比,持久化检索方案使用了43.3%更少的记录代理-模型token,估算API成本降低45.0%,平均响应时间减少9.1%。
50%待验证研究在企业问题上评估了三种设计,涵盖独立提问、共享对话中的提问以及依赖上下文的后续提问,评估跨越五个多轮设置。
50%待验证持久化检索方案在降低token使用和API成本方面优于基于技能的主代理检索,同时提升了响应速度。
50%待验证研究的局限之一是实验集中于企业问题,其他领域(如开放域对话)的适用性有待验证。
50%待验证持久化方案在token使用上的增加可能对某些应用构成挑战,需要进一步优化检索历史的压缩和表示方法。
50%待验证未来的研究可以探索动态调整检索策略,结合持久化和非持久化的优点,以及将持久化检索扩展到多模态场景。
50%