He-API
自托管的 OpenAI 兼容 API 网关,将多家中国大模型提供商的接口统一收敛到单一 OpenAI 兼容端点,解决跨区域接入的鉴权、支付与格式不一致问题
时间轴 (近 90 天)
He-API 是一个自托管的 API 网关,将 DeepSeek、Kimi、Qwen、Doubao、ERNIE、GLM 六家中国大模型提供商统一收敛到一个 OpenAI 兼容端点后面。
He-API 的架构链路为:客户端(任意 OpenAI SDK)→ Nginx + Let's Encrypt → Go 编写的 api-gateway,网关内部依次经过 Redis 支撑的权限解析器、Redis + Lua 实现的限流器、模型路由器、各提供商适配层(kimi / deepseek / qwen / doubao / ernie / glm),最终打到上游提供商。
He-API 的用量事件经 Kafka 写入 ClickHouse,账单、模型与提供商元数据落在 PostgreSQL;系统包含 15 个服务跑在 systemd 上,除一个 Next.js 管理控制台外全部是 Go;中间件包括 Postgres、Kafka、Redis、ClickHouse,22 个迁移脚本全部幂等。
由于各家提供商上报用量的方式不一致,不能盲目信任上游数字;作者最终在网关侧解析用量,并为从不报告用量的流式请求保留本地估算兜底,同时保留逐请求的审计明细。
He-API 的服务商密钥以 AES-256-GCM 静态加密,只在内存中解密;网关每 30 秒轮询一个内部的 active providers 端点,原子性地替换内存中的提供商集合,从而实现热重载。
全部知识事实 (5)
He-API 是一个自托管的 API 网关,将 DeepSeek、Kimi、Qwen、Doubao、ERNIE、GLM 六家中国大模型提供商统一收敛到一个 OpenAI 兼容端点后面。
50%待验证He-API 的架构链路为:客户端(任意 OpenAI SDK)→ Nginx + Let's Encrypt → Go 编写的 api-gateway,网关内部依次经过 Redis 支撑的权限解析器、Redis + Lua 实现的限流器、模型路由器、各提供商适配层(kimi / deepseek / qwen / doubao / ernie / glm),最终打到上游提供商。
50%待验证He-API 的用量事件经 Kafka 写入 ClickHouse,账单、模型与提供商元数据落在 PostgreSQL;系统包含 15 个服务跑在 systemd 上,除一个 Next.js 管理控制台外全部是 Go;中间件包括 Postgres、Kafka、Redis、ClickHouse,22 个迁移脚本全部幂等。
50%待验证由于各家提供商上报用量的方式不一致,不能盲目信任上游数字;作者最终在网关侧解析用量,并为从不报告用量的流式请求保留本地估算兜底,同时保留逐请求的审计明细。
50%待验证He-API 的服务商密钥以 AES-256-GCM 静态加密,只在内存中解密;网关每 30 秒轮询一个内部的 active providers 端点,原子性地替换内存中的提供商集合,从而实现热重载。
50%