AI Gateway
AI Gateway是Cloudflare推出的AI请求管理与代理服务，位于应用程序与AI模型提供商之间，充当统一的流量入口。其核心功能包括：对AI API请求进行路由、缓存、限速和监控，帮助开发者统一管理多个AI服务提供商的调用，同时提供可观测性、成本控制和安全防护能力，适用于需要规模化部署AI应用的企业和开发团队。
Core Facts
Timeline (last 90 days)
ai-workspace-services定位为开放的云控制平面，包含身份服务和AI Gateway
Cloudflare在AI Gateway推出AutoRouter公测版，可按请求需求自动选择模型，官方称能节省约三成Token开支
网关层的集中日志基础设施是让在线评估成为可能的前提，只有调用数据被集中记录才能做跨模型、跨团队的横向比较
专注式网关方案遵循单一职责原则，边界清晰便于独立演进和替换，但需要维护更多组件
捆绑式网关方案降低运维复杂度，适合规模较小、职责边界模糊的场景
AI网关的概念来源于传统API网关在LLM场景下的演化
AI网关处理与大语言模型交互相关的横切关注点，负责模型路由、密钥与凭证管理、费用与配额控制
模型治理与工具授权本质上是两个不同的关注点，逻辑上完全正交
如果模型策略和工具权限的变更频率与责任人不同，分层架构更合理
Databricks的MLflow和AI Gateway产品是统一模型接入层方向的具体实践
22 more timeline events
All Facts (20)
AI网关典型能力包括集中式日志、自动降级与回退、按项目的成本追踪、统一接口
80%VerifiedVercel AI Gateway是由Vercel推出的AI网关服务，提供缓存、速率限制管理、可观测性等功能
75%VerifiedOpen Router是一个AI模型聚合路由平台，通过统一的OpenAI兼容API接口让开发者访问来自多个厂商的数百个模型
70%UnverifiedDatabricks的MLflow和AI Gateway产品是统一模型接入层方向的具体实践
70%UnverifiedAI Gateway提供ZDR（Zero Data Retention，零数据保留）特性，请求数据不会被供应商留存用于训练或其他用途
70%UnverifiedAI Search的模型调用统一通过AI Gateway来管理，AI Gateway提供日志记录、速率限制、请求追踪等管理能力
60%Unverifiedai-workspace-services定位为开放的云控制平面，包含身份服务和AI Gateway
50%Unverified网关层的集中日志基础设施是让在线评估成为可能的前提，只有调用数据被集中记录才能做跨模型、跨团队的横向比较
50%Unverified模型治理与工具授权本质上是两个不同的关注点，逻辑上完全正交
50%UnverifiedAI网关处理与大语言模型交互相关的横切关注点，负责模型路由、密钥与凭证管理、费用与配额控制
50%UnverifiedAI网关的概念来源于传统API网关在LLM场景下的演化
50%Unverified捆绑式网关方案降低运维复杂度，适合规模较小、职责边界模糊的场景
50%Unverified专注式网关方案遵循单一职责原则，边界清晰便于独立演进和替换，但需要维护更多组件
50%Unverified如果模型策略和工具权限的变更频率与责任人不同，分层架构更合理
50%Unverified关于 Grok 4.7 的具体性能指标、上下文长度以及 Gateway 的实际延迟数据尚未披露
50%Unverified该优惠活动截止至 9 月 27 日
50%UnverifiedAI Gateway 的技术本质类似于反向代理（Reverse Proxy），但专为大语言模型调用场景设计
50%UnverifiedUnity Gateway 的定位是一个统一的AI网关
50%Unverified在多模型环境中最务实的做法是围绕自身业务场景做A/B测试而非依赖发布首日热度数据
50%Unverified传统移动端 AI 应用架构需要自建中间层服务器持有 API 密钥并转发请求，以防止密钥被逆向工程暴露，但带来运维成本、延迟开销和扩展压力
50%