待验证50% 置信事实精确时间
大模型网关（LLM Gateway）的主流开源方案包括LiteLLM、PortKey，核心功能涵盖多模型路由与故障转移、限流与熔断、请求重试、成本追踪、负载均衡
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/25
首次发现
有效期至：2026/10/23
来源
相关事实
待验证主流的LLM网关实现包括开源的LiteLLM、PortKey以及云厂商自研的解决方案83% 相似待验证模型网关（Model Gateway）作为统一的请求入口，负责路由分发、负载均衡、速率限制、请求重试和故障转移等功能75% 相似待验证市场上已有LiteLLM、Portkey、Kong AI Gateway等LLM网关方案与ngrok竞争69% 相似待验证LLM服务中灰度发布通常通过API网关层的流量分割实现，例如将5%请求路由至新模型，95%保持原模型68% 相似待验证LangSmith LLM Gateway（Beta）作为Agent与LLM调用之间的代理层，提供消费限额设置、支出可见性以及PII和密钥检测等安全护栏67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/613187API
curl https://kongchang.com/api/v1/knowledge/claims/613187MCP
get_claim(id=613187)