DecisionLoop
一个Python Agent框架,将Agent工作拆分为语言层与决策层,决策层由专门的小决策模型承担意图识别、工具选择、参数生成和流程控制,而非让LLM每轮从头推理,旨在降低工具调用环节的延迟与成本
时间轴 (近 90 天)
DecisionLoop是一个Python框架,它将Agent的决策层(意图识别、工具选择、参数生成、流程控制)与语言层解耦,决策层由小型决策模型承担,语言层由LLM负责自然语言理解和生成。
DecisionLoop在三个业务场景(订单客服、航班服务台、银行服务台)上进行了验证,这些场景的共性是流程相对明确、工具集有限,同时需应对用户表达方式的多样性。
早期测试结果显示,DecisionLoop在工具调用准确率上优于基于LangChain、使用12B模型构建的LLM Agent,同时在成本和延迟上也有优势。
作者本人将这些初步结果称为初步观察而非正式基准测试,测试场景、样本规模、评判标准均未公开。
作者下一步计划在DecisionLoop之上构建多Agent架构,由一个路由层将请求分发给领域专家Agent,路由本身也是决策问题,可用小模型承担。
全部知识事实 (5)
DecisionLoop是一个Python框架,它将Agent的决策层(意图识别、工具选择、参数生成、流程控制)与语言层解耦,决策层由小型决策模型承担,语言层由LLM负责自然语言理解和生成。
50%待验证DecisionLoop在三个业务场景(订单客服、航班服务台、银行服务台)上进行了验证,这些场景的共性是流程相对明确、工具集有限,同时需应对用户表达方式的多样性。
50%待验证早期测试结果显示,DecisionLoop在工具调用准确率上优于基于LangChain、使用12B模型构建的LLM Agent,同时在成本和延迟上也有优势。
50%待验证作者本人将这些初步结果称为初步观察而非正式基准测试,测试场景、样本规模、评判标准均未公开。
50%待验证作者下一步计划在DecisionLoop之上构建多Agent架构,由一个路由层将请求分发给领域专家Agent,路由本身也是决策问题,可用小模型承担。
50%