RouteLLM
专门用于LLM智能路由的开源框架，通过轻量级分类器判断请求复杂度，动态分配调用合适的模型
核心事实
时间轴 (近 90 天)
学术界的RouteLLM、FrugalGPT等工作使用训练好的分类器预测任务难度，在弱模型与强模型之间动态切换，在保证质量的前提下压降成本。
应衡量每个已完成任务的成本而非每token成本，前提是运行时会主动进行模型路由
LiteLLM、RouteLLM等开源路由库可统一管理多个LLM后端
LLM路由领域已有RouteLLM、Martian等探索先例，核心思路是训练轻量级分类器在推理前预判任务难度与类型，再映射到模型选择策略
RouteLLM 通过轻量级分类器在推理前预判请求复杂度，自动决定调用强模型还是弱模型
Martian 和 RouteLLM 是模型路由赛道的代表性商业产品
业界已出现用小型分类模型对输入进行预判的早期路由实践，例如Meta的RouteLLM和Martian
RouteLLM 由 LMSys 团队开源，核心思路是训练一个轻量分类器，根据输入 prompt 特征预测是否需要强模型，从而在准确率损失极小的前提下大幅降低路由到强模型的比例
RouteLLM等路由框架可以根据问题类型智能分配最合适的模型，LangChain和CrewAI等开发框架允许开发者编排多个AI Agent协同工作
类似OpenRouter的路由/网关开源方案还包括LiteLLM、Portkey
还有 1 条时间轴事件
全部知识事实 (15)
OpenRouter、LiteLLM等项目也在探索多模型编排方案
75%已验证RouteLLM和LiteLLM是实现LLM智能路由功能的开源框架
70%已验证模型路由通过训练轻量级路由分类器评估请求复杂度，将简单任务路由至小模型、复杂任务路由至大模型
65%已验证LLM路由是根据任务复杂度、成本预算和响应速度需求动态选择模型的推理优化策略，RouteLLM和LiteLLM等开源框架已在探索这一方向
65%待验证学术界的RouteLLM、FrugalGPT等工作使用训练好的分类器预测任务难度，在弱模型与强模型之间动态切换，在保证质量的前提下压降成本。
50%待验证应衡量每个已完成任务的成本而非每token成本，前提是运行时会主动进行模型路由
50%待验证LiteLLM、RouteLLM等开源路由库可统一管理多个LLM后端
50%待验证LLM路由领域已有RouteLLM、Martian等探索先例，核心思路是训练轻量级分类器在推理前预判任务难度与类型，再映射到模型选择策略
50%待验证RouteLLM 通过轻量级分类器在推理前预判请求复杂度，自动决定调用强模型还是弱模型
50%待验证Martian 和 RouteLLM 是模型路由赛道的代表性商业产品
50%待验证业界已出现用小型分类模型对输入进行预判的早期路由实践，例如Meta的RouteLLM和Martian
50%待验证RouteLLM 由 LMSys 团队开源，核心思路是训练一个轻量分类器，根据输入 prompt 特征预测是否需要强模型，从而在准确率损失极小的前提下大幅降低路由到强模型的比例
50%待验证RouteLLM等路由框架可以根据问题类型智能分配最合适的模型，LangChain和CrewAI等开发框架允许开发者编排多个AI Agent协同工作
50%待验证类似OpenRouter的路由/网关开源方案还包括LiteLLM、Portkey
50%待验证RouteLLM、Martian等模型路由的开源工具和商业服务已经出现
50%