待验证60% 置信事实精确时间
大模型网关（LLM Gateway）的主流开源方案包括LiteLLM、PortKey，核心功能涵盖多模型路由与故障转移、限流与熔断、请求重试、成本追踪、负载均衡
2
来源数
60%
置信度
中期 (~90 天)
时效性
2026/7/25
首次发现
有效期至：2026/10/23
来源
相关事实
待验证LLM网关（LLM Gateway）是介于应用与模型供应商之间的中间层软件，典型能力包括统一多个供应商的API协议、集中管理API密钥、按团队或项目做预算与限流、记录用量与成本、缓存重复请求以及故障时自动切换上游。80% 相似待验证模型网关（Model Gateway）作为统一的请求入口，负责路由分发、负载均衡、速率限制、请求重试和故障转移等功能75% 相似待验证LLM Gateway方案的优势在于无需改动业务代码即可获得trace数据，劣势在于网关成为新的关键路径，带来延迟、可用性和供应商锁定风险74% 相似待验证LiteLLM、Portkey和OpenRouter主要解决流量层问题，对身份与策略绑定的授权问题支持参差不齐73% 相似待验证多模型路由中间层如 LiteLLM、OpenRouter 可在主服务不可用时自动切换到备用模型72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/613187API
curl https://kongchang.com/api/v1/knowledge/claims/613187MCP
get_claim(id=613187)