概念混合路由架构 / 按敏感度混合路由
混合路由
一种AI应用架构模式,在调度层根据请求类型、数据敏感程度或所需智能水平,动态决定将请求路由至本地开源模型或云端闭源模型,兼顾合规、成本与能力
时间轴 (近 90 天)
10月13日
混合路由(hybrid routing)指同一套推理请求按置信度分流:高置信度在设备端本地闭环,低置信度上传云端由大模型兜底,断网时低置信度样本排队处理。
待验证50%
9月28日
企业采用的技术路径是用自有数据对开源模型微调,并按数据敏感度混合路由,敏感数据走本地开源模型、复杂推理任务调用闭源前沿模型
待验证50%