产品MultiTurnRoute平台
MultiTurnRoute
一个面向多轮对话场景的LLM路由平台,提供共享接口、Chain-of-Route路由算法和Arena评测机制,旨在优化多轮对话中的模型选择与成本效率。
时间轴 (近 90 天)
11月10日
MultiTurnRoute 是一个多轮对话 LLM 路由平台,提供共享接口、Chain-of-Route 算法和 Arena 评测机制。
待验证50%
11月10日
MultiTurnRoute 的共享接口让内置路由器和用户自定义路由器获取三类信息:当前查询、对话历史、每个模型可复用前缀长度的估计值。
待验证50%
11月10日
在该基准上,CoR 在达到最强单模型质量水平时,归一化成本相对最强路由基线最多降低 20.3%,同时峰值回复质量持平或有所提升。
待验证50%
11月10日
该平台目前基于五个 LLM 的标注数据,路由器在更大模型池或不同领域对话上的泛化能力仍有待验证。
待验证50%