[控场AI]
概念虚拟模型

Virtual Models

AI 网关中将模型标识与参数配置抽象为可复用 ID 的能力,使模型切换与配置治理从应用代码层迁移到网关层,支持集中权限治理、候选模型评测与版本化管理。

时间轴 (近 90 天)

10月28日

AI Gateway 上线了「虚拟模型」(Virtual Models)功能,将模型选择和参数配置从应用代码抽象为网关侧保存的配置,调用方通过自定义模型 ID(如 vmc/coding-agent)调用,底层模型和设置可集中修改而无需重新部署应用或 Agent。

待验证50%
10月28日

虚拟模型可以用于编码 Agent,向本身不暴露推理强度、快速模式、提示缓存等选项的 Agent 强制注入这些设置,无需等待 Agent 端支持。

待验证50%
10月28日

虚拟模型可以指定使用哪些供应商、配置回退模型,并强制执行零数据保留(ZDR)等合规要求,使合规策略在网关层统一执行而非依赖每个调用方。

待验证50%
10月28日

每个使用虚拟模型的请求都可以附加自定义报告标签,便于把花费归到具体项目或团队。

待验证50%
10月28日

使用虚拟模型时,在 AI SDK 或兼容 API 请求里把原来的供应商模型 ID 换成 `vmc/<slug>`(如 `vmc/coding-agent`)即可调用。

待验证50%
10月28日

虚拟模型的代价是多了一跳间接寻址,收益是配置变更与代码发布解耦、合规策略可以强制执行、花费归属更清晰;对单一应用调用单一模型的团队收益有限。

待验证50%
10月28日

对于承载生产流量的虚拟模型,建议先建立候选虚拟模型指向新模型,跑完评测后再切换;质量下降时可把原虚拟模型指回旧模型实现回滚。

待验证50%
10月28日

Virtual Models 页面会展示每个任务的请求数、花费和成功率。

待验证50%
10月28日

Vercel AI Gateway 推出了 Virtual Models(虚拟模型)功能,将模型字符串与配置抽象为可复用的 ID,使模型切换从代码层迁移到网关层。

待验证50%
10月28日

使用 Claude Code、Codex 等编码 Agent 的团队可通过 vercel ai-gateway setup 连接,并在各 harness 的模型选择器或配置中选择虚拟模型。

待验证50%

还有 7 条时间轴事件

全部知识事实 (17)

待验证

虚拟模型兼容 AI Gateway 上的所有模型类型,包括图像、视频、语音、嵌入和实时模型。

60%
待验证

虚拟模型的代价是多了一跳间接寻址,收益是配置变更与代码发布解耦、合规策略可以强制执行、花费归属更清晰;对单一应用调用单一模型的团队收益有限。

50%
待验证

虚拟模型可以用于编码 Agent,向本身不暴露推理强度、快速模式、提示缓存等选项的 Agent 强制注入这些设置,无需等待 Agent 端支持。

50%
待验证

虚拟模型可以指定使用哪些供应商、配置回退模型,并强制执行零数据保留(ZDR)等合规要求,使合规策略在网关层统一执行而非依赖每个调用方。

50%
待验证

每个使用虚拟模型的请求都可以附加自定义报告标签,便于把花费归到具体项目或团队。

50%
待验证

使用虚拟模型时,在 AI SDK 或兼容 API 请求里把原来的供应商模型 ID 换成 `vmc/<slug>`(如 `vmc/coding-agent`)即可调用。

50%
待验证

对于承载生产流量的虚拟模型,建议先建立候选虚拟模型指向新模型,跑完评测后再切换;质量下降时可把原虚拟模型指回旧模型实现回滚。

50%
待验证

Virtual Models 页面会展示每个任务的请求数、花费和成功率。

50%
待验证

虚拟模型配置变更后,所有调用该 ID 的应用和 Agent 会在几分钟内自动采用新配置,无需改动代码或重新部署。

50%
待验证

使用 Claude Code、Codex 等编码 Agent 的团队可通过 vercel ai-gateway setup 连接,并在各 harness 的模型选择器或配置中选择虚拟模型。

50%
待验证

虚拟模型的 ID 命名应体现任务语义而非模型名(如 coding-agent、support-triage),避免绑定具体模型的命名(如 claude-opus-agent)。

50%
待验证

如果虚拟模型要求 Zero Data Retention 或 disallowPromptTraining,即使请求显式设为 false,这些安全策略依然强制生效。

50%
待验证

虚拟模型上的 tags 会替换请求中携带的 tags,从而让花费准确归集到具体任务。

50%
待验证

虚拟模型上的 fallback、Zero Data Retention、tags 等网关级设置会跟随虚拟模型一起切换,但 provider 专属选项按 provider 生效,切换 provider 时需复查 provider options。

50%
待验证

虚拟模型上的设置优先于请求中的同名设置,调用方无法覆盖虚拟模型设定的 provider 顺序、fallback 或服务层级。

50%
待验证

AI Gateway 上线了「虚拟模型」(Virtual Models)功能,将模型选择和参数配置从应用代码抽象为网关侧保存的配置,调用方通过自定义模型 ID(如 vmc/coding-agent)调用,底层模型和设置可集中修改而无需重新部署应用或 Agent。

50%
待验证

Vercel AI Gateway 推出了 Virtual Models(虚拟模型)功能,将模型字符串与配置抽象为可复用的 ID,使模型切换从代码层迁移到网关层。

50%

来源文章