[控场AI]
产品MultiTurnRoute平台

MultiTurnRoute

一个面向多轮对话场景的LLM路由平台,提供共享接口、Chain-of-Route路由算法和Arena评测机制,旨在优化多轮对话中的模型选择与成本效率。

时间轴 (近 90 天)

11月10日

MultiTurnRoute 是一个多轮对话 LLM 路由平台,提供共享接口、Chain-of-Route 算法和 Arena 评测机制。

待验证50%
11月10日

MultiTurnRoute 的共享接口让内置路由器和用户自定义路由器获取三类信息:当前查询、对话历史、每个模型可复用前缀长度的估计值。

待验证50%
11月10日

在该基准上,CoR 在达到最强单模型质量水平时,归一化成本相对最强路由基线最多降低 20.3%,同时峰值回复质量持平或有所提升。

待验证50%
11月10日

该平台目前基于五个 LLM 的标注数据,路由器在更大模型池或不同领域对话上的泛化能力仍有待验证。

待验证50%

全部知识事实 (4)

来源文章