Palimpsest Gateway
开源自托管的LLM密钥池网关,兼容OpenAI接口,支持多厂商API密钥池化管理、自动故障转移、跨厂商上下文接续及密钥加密存储,基于Python/FastAPI构建
时间轴 (近 90 天)
Palimpsest Gateway 是一个自托管、兼容OpenAI接口的LLM密钥池网关,提供统一密钥池化、自动故障转移并在切换过程中保持对话连续
Palimpsest Gateway 采用MIT协议开源,基于Python/FastAPI编写,可通过docker compose up运行
Palimpsest Gateway 的核心由网关本体加Redis构成,Redis承担密钥注册表、会话历史、用量计数器和审计日志的职责
Palimpsest Gateway 支持将请求转发给OpenAI、Anthropic、Google Gemini或OpenRouter
应用通过网关密钥(pgw_live_...)调用,绝不触碰真实的厂商密钥
为实现流式故障转移且不破坏客户端,网关在向客户端发送任何内容之前先把整个厂商流完整缓冲在内存里,故障转移在任何字节离开网关之前完成
故障转移循环对异常分类:瞬时错误标记冷却后换下一把,耗尽标记后换下一把,被拒则挂起该密钥,只有致命错误才真正抛出
跨厂商上下文接续时,网关将每轮对话按会话存入Redis,故障转移时重建逐字窗口,默认取最近4轮并加上系统提示与当前消息
厂商密钥采用Fernet主密钥静态加密,主密钥在首次启动时生成并持久化到Docker卷,永不离开容器
轮换主密钥是一个破坏性操作(make rotate-secrets),为刻意设计
还有 5 条时间轴事件
全部知识事实 (15)
Palimpsest Gateway 项目地址为 github.com/hammrouni/palimpsest-gateway,可通过 docker pull ghcr.io/hammrouni/palimpsest-gateway:latest 拉取镜像
50%待验证Palimpsest Gateway 采用MIT协议开源,基于Python/FastAPI编写,可通过docker compose up运行
50%待验证Palimpsest Gateway 的核心由网关本体加Redis构成,Redis承担密钥注册表、会话历史、用量计数器和审计日志的职责
50%待验证Palimpsest Gateway 支持将请求转发给OpenAI、Anthropic、Google Gemini或OpenRouter
50%待验证应用通过网关密钥(pgw_live_...)调用,绝不触碰真实的厂商密钥
50%待验证为实现流式故障转移且不破坏客户端,网关在向客户端发送任何内容之前先把整个厂商流完整缓冲在内存里,故障转移在任何字节离开网关之前完成
50%待验证故障转移循环对异常分类:瞬时错误标记冷却后换下一把,耗尽标记后换下一把,被拒则挂起该密钥,只有致命错误才真正抛出
50%待验证跨厂商上下文接续时,网关将每轮对话按会话存入Redis,故障转移时重建逐字窗口,默认取最近4轮并加上系统提示与当前消息
50%待验证厂商密钥采用Fernet主密钥静态加密,主密钥在首次启动时生成并持久化到Docker卷,永不离开容器
50%待验证轮换主密钥是一个破坏性操作(make rotate-secrets),为刻意设计
50%待验证密钥选择算法先排有请求上限且有余量的密钥(余量多者优先),再排无上限的密钥,以实现先用免费密钥、付费密钥兜底
50%待验证Palimpsest Gateway 的API默认在 http://localhost:8000 启动,请求头带上 X-Session-ID 可在服务端维护对话历史
50%待验证Palimpsest Gateway 的仪表盘中模型价格由用户自己录入,不捆绑任何预设
50%待验证Palimpsest Gateway 是一个自托管、兼容OpenAI接口的LLM密钥池网关,提供统一密钥池化、自动故障转移并在切换过程中保持对话连续
50%待验证Palimpsest Gateway 项目路线图包括多网关集群、厂商配额同步、请求变换,其中OpenRouter已支持读取真实配额
50%