Concept统一API网关 / API Gateway
API网关
API网关是位于客户端与后端服务之间的服务器端组件,作为系统对外提供API访问的统一入口。其核心功能包括请求路由与转发、身份认证与授权、流量控制与限速、负载均衡以及协议转换等。API网关能够将内部复杂的微服务架构对外屏蔽,简化客户端调用,同时集中管理安全策略和监控日志,是现代微服务与云原生架构中的关键基础设施组件。
Timeline (last 90 days)
Aug 25
大模型API服务通常采用多层架构:API网关进行认证限流路由,负载均衡器分发请求,GPU集群执行推理
Unverified50%