概念Router Model
路由模型
一种将任务路由与分类调度功能从主模型中抽离出来的专用轻量化模型,参数量小、延迟低,负责将请求分发至合适的下游模型或工具,以降低系统整体推理成本
时间轴 (近 90 天)
9月24日
Jev属于判别式小模型或路由模型(Router Model)类别,与生成式大模型有本质区别
待验证50%
一种将任务路由与分类调度功能从主模型中抽离出来的专用轻量化模型,参数量小、延迟低,负责将请求分发至合适的下游模型或工具,以降低系统整体推理成本
Jev属于判别式小模型或路由模型(Router Model)类别,与生成式大模型有本质区别