查询路由

查询路由的实现方式分为三个层次：基于规则的正则匹配、基于轻量分类模型的意图预测、基于LLM的动态路由

在去中心化场景下，查询路由需要在互不信任的多个端点之间协调，往往要借助查询分发协议、结果聚合策略以及信誉评分。

项目涉及对用户输入进行二分类的模型微调环节，用于判断是专业问题还是无关问题，只允许专业问题进入RAG系统以控制Token消耗，这种做法在工业界称为查询路由或意图分类。

蓝绿部署在向量检索场景中意味着在旧索引继续服务的同时，用新模型身份在另一套索引中完整构建全部向量，验证指标达标后原子切换查询路由，出问题时回退到旧索引。