GoRoute：不到15MB内存的轻量级LLM网关

终端编码代理（Claude Code、OpenCode、Codex、Cursor）的用户常常需要在后台运行一个LLM路由器来处理速率限制、多账号切换和模型故障转移。现有方案如OmniRoute和LiteLLM功能完整，但依赖Node.js或Python运行时，常驻内存高达150MB到300MB，还伴有冷启动延迟。开发者ziuus用Go语言重新实现了这一层，推出了零依赖的编译型网关GoRoute，空闲内存占用不到6MB，编译后单二进制文件仅16MB。

GoRoute是什么？

GoRoute是一个用Go编写的零依赖、编译型LLM网关和多代理路由器。它以本地反向代理的形式运行在http://127.0.0.1:8128，位于开发者代理和AI提供商之间，负责转发和调度请求。其定位非常明确：不做大而全的AI基础设施，只解决终端编码场景下的路由痛点——低资源占用、快速启动、稳定不崩溃。

+-------------+       +-------------------+       +-----------------------+
| Claude Code | ----> |                   | ----> | Google Antigravity    |
| OpenCode    | ----> | GoRoute (Go Proxy)| ----> | OpenAI / Anthropic    |
| Codex/Cursor| ----> |   (<15MB RAM)     | ----> | Custom Endpoints      |
+-------------+       +-------------------+       +-----------------------+

从架构图可以看出，GoRoute处于客户端与多家AI服务之间，统一处理协议转换和密钥轮换。这种设计让开发者无需修改现有工具，只需将API端点指向本地代理即可。

核心能力解析

极低内存占用

GoRoute编译为单个16MB二进制文件，无任何外部依赖，空闲时内存低于6MB。相比之下，Node.js或Python方案需要完整运行时，常驻内存普遍在150MB以上。对于需要长时间在后台运行路由器的开发者来说，这一差距直接影响笔记本续航和系统流畅度。作者强调“启动瞬间完成，且从不panic”，指向的是编译型语言在稳定性和冷启动上的天然优势。

编译型语言与解释型运行时的差异是理解内存差距的基础。Node.js 和 Python 方案必须携带完整的语言运行时：V8 引擎或 CPython 解释器、内置库和垃圾回收器等，这些组件在进程启动后即常驻内存，因此空闲占用就达到百兆级别。Go 则把程序与运行时一并编译成单个静态二进制文件，运行时只包含调度器和必要的垃圾回收组件，体量小得多。

此外，Go 的 goroutine 采用轻量级栈，创建成千上万个并发任务的成本远低于操作系统线程，而 LLM 网关本质上是等待上游响应的 I/O 密集型服务，这种并发模型天然契合。冷启动延迟低也是编译型的直接结果：二进制被加载后即可开始监听端口，无需逐层解析并初始化庞大的依赖树，这正是作者强调“启动瞬间完成”的技术依据。

自动429故障转移与轮询

当某个API密钥触发速率限制时，GoRoute会自动轮换账号，并即时在多个密钥之间进行故障转移。这意味着开发者可以配置多个提供商账号，由网关统一调度，避免手动切换或请求失败。轮询机制也适合需要分散配额的使用场景。

HTTP 429 状态码是理解这一节的关键背景。429 是 HTTP 标准状态码之一，含义为“Too Many Requests”，即客户端在给定时间内发送了过多请求，触发了服务端的速率限制。AI 提供商（如 OpenAI、Anthropic 的 API）普遍用它来限制单个账号或密钥的请求频率与并发量。遇到 429 时，请求并不会被处理，若不加以处理就会直接失败并返回给上层工具。

故障转移（failover） 与 轮询（round-robin） 是应对这一问题的两种典型调度策略。故障转移指当主密钥返回 429 或其他错误时，网关立即将请求重试到备用密钥上，对调用方透明；轮询则是按照顺序均匀地在多个密钥之间分配请求，从源头降低单个密钥触发限流的概率。二者结合使用，可以让开发者把分散在多个账号上的配额聚合成一个稳定可用的通道，而无需在终端工具里手动切换密钥。

双协议翻译

GoRoute同时支持OpenAI的/v1/chat/completions和Anthropic的/v1/messages接口，可以在两种协议之间无缝翻译。对于同时使用Claude Code和OpenAI兼容工具的开发者，这一特性省去了为不同协议分别配置网关的麻烦。

OpenAI 与 Anthropic 的 API 协议在请求与响应的结构上存在实质差异。OpenAI 的 /v1/chat/completions 使用 messages 数组和 role（system/user/assistant）区分角色；Anthropic 的 /v1/messages 则把系统提示单独放在顶层的 system 字段，并要求 max_tokens 必填，返回结构中的内容块（content blocks）形式也不同。两者的鉴权头同样不同：OpenAI 使用 Authorization: Bearer，Anthropic 使用 x-api-key 加 anthropic-version 头。

所谓“协议翻译”，就是网关在接收一端格式的请求后，将其字段映射转换为另一端格式再发往上游，并把上游响应按客户端期望的格式还原。这使得一个只认 OpenAI 协议的客户端也能调用 Anthropic 的模型，反之亦然。对于同时混用 Claude Code 和 OpenAI 兼容工具的开发者而言，这种双向兼容消除了维护两套网关配置的必要。

一键配置代理

通过goroute setup all命令，GoRoute能自动配置Claude Code、OpenCode、Codex、Cursor、Aider和Cline等主流终端编码工具。这降低了上手门槛，尤其适合不想手动修改配置文件的用户。

从OmniRoute无缝迁移

已有OmniRoute配置的用户可以通过goroute import-omniroute命令在1秒内导入现有凭据和路由规则，迁移成本极低。这一设计明显是为了吸引现有路由器的存量用户。

安装与快速上手

GoRoute提供两种安装方式。通过curl直接安装：

curl -fsSL https://raw.githubusercontent.com/ziuus/goroute/main/install.sh | bash

或通过npm运行：

npx goroute setup all

安装完成后，使用goroute status检查运行状态。项目已在GitHub开源，作者欢迎反馈和功能请求。

适用场景与边界

GoRoute的定位是终端编码代理的轻量级路由层，而非通用AI网关。它适合以下场景：本地开发机上需要长时间运行路由器、对内存敏感的环境、希望快速切换多账号的开发者。但如果需要复杂的可观测性、团队级配额管理或云端部署，GoRoute目前的能力边界可能不够。作者本人也将其描述为个人项目，并公开征集反馈，说明项目仍在早期阶段。

从技术选型看，用Go重写LLM路由层是一个合理的工程判断：HTTP代理本身是I/O密集型任务，不需要重型运行时，编译型语言在内存和启动速度上的优势明显。GoRoute的价值不在于功能创新，而在于把已有功能用更合适的工具重新实现，并针对终端编码场景做了精准裁剪。

项目地址：https://github.com/ziuus/goroute