[控场AI]
概念聚合Provider / Provider聚合

虚拟聚合Provider

在多个真实模型提供商之上抽象出的虚拟层,提供统一API入口,支持跨提供商模型调度、负载均衡及临期积分优先消耗等策略

时间轴 (近 90 天)

10月8日

开源Hub新增了虚拟聚合Provider功能,在多个真实模型提供商之上抽象出一层虚拟层,让用户在统一入口下按需调度不同提供商的模型资源

待验证50%
10月8日

虚拟聚合Provider提供两种工作模式:AOTL Auto自动调度模式和指定模型跨提供商聚合模式

待验证50%
10月8日

Hub的虚拟聚合Provider本质上是一个路由器,对上游暴露统一的API端点,对下游维护多个真实Provider的认证信息与调度策略

待验证50%

全部知识事实 (3)

来源文章