LiteLLM
LiteLLM是一个开源的大语言模型统一调用库和代理中间件，提供兼容OpenAI格式的标准化API接口，支持将请求路由至100余种LLM提供商（包括OpenAI、Anthropic、Azure、本地部署模型等）。其核心功能包括多模型负载均衡、请求格式转换、成本追踪与访问控制，帮助开发者以统一方式集成和管理不同来源的大语言模型服务。
核心事实
时间轴 (近 90 天)
自托管网关（如LiteLLM）把软件运行环境、版本升级、监控告警和数据留存责任完全交给部署方。
LiteLLM 维护的 model_prices_and_context_window_backup.json 文件是社区协作的模型元数据仓库，记录各模型的输入/输出定价、最大上下文窗口、支持的功能等参数，由维护者根据官方 API 文档和实际调用结果手动更新。
LiteLLM 的 model_prices_and_context_window_backup.json 文件中出现了 Fable 5.5 的相关数据，表明该模型在 API 层面已具备可调用条件，定价和上下文窗口参数已确定。
Portkey、LiteLLM 等开源项目提供多模型路由与可观测能力。
LiteLLM 的 stdio MCP 服务器本质上是代理在其主机上执行的命令，当前版本默认关闭，除非进程环境设置 LITELLM_ENABLE_MCP_STDIO=true。
除非将 EXPERIMENTAL_UI_LOGIN 显式设为 false，LiteLLM 代理会尝试将任何不以 sk- 开头的传入 token 解密为 UI 会话 token；GHSA-7hp6 公告称 1.87.0 至 1.90.x 在设为 true 时同样可被利用。
在 LiteLLM 中轮换 master key 时，如果没有盐值密钥，应使用 POST /key/regenerate 配合 new_master_key（先备份数据库）；如果有盐值密钥，则不要调用该端点，直接替换密钥并重启。
LiteLLM 源码中的 get_salt_key() 会读取 LITELLM_SALT_KEY 环境变量，未设置时回退到 master key 作为盐值，用于加密数据库中存储的供应商密钥。
关闭 master key 作为 UI 密码的正确顺序是：先在 UI 里创建一个带独立密码的 proxy_admin 用户并验证能登录，再设置 general_settings 中的 master_key 和 disable_env_credential_login: true。
LiteLLM 的 /ui 后台使用 UI_USERNAME（默认 admin）和 UI_PASSWORD 登录；如果 UI_PASSWORD 未设置，LiteLLM 会接受 master key 本身作为密码，且任何以此方式登录的人都是代理管理员。
还有 40 条时间轴事件
全部知识事实 (20)
LiteLLM是一个开源的LLM统一接入层项目，其Proxy模式可以将不同格式的API请求统一转换为OpenAI兼容格式
80%已验证LiteLLM和OneAPI等开源项目也提供了类似的统一接口层
75%已验证LiteLLM是一个开源的LLM API统一代理层，将数十家模型提供商的API统一封装为OpenAI兼容格式
75%已验证业界类似的开源LLM网关方案包括LiteLLM、OneAPI和PortKey
75%已验证OpenRouter、LiteLLM等项目也在探索多模型编排方案
75%已验证RouteLLM和LiteLLM是实现LLM智能路由功能的开源框架
70%已验证Open Router是一个AI模型聚合路由平台，通过统一的OpenAI兼容API接口让开发者访问来自多个厂商的数百个模型
70%已验证LiteLLM项目基于Python开发
65%已验证LiteLLM提供Python SDK和Proxy Server（AI Gateway）两种使用模式
65%已验证LiteLLM是由BerriAI团队开发的开源项目
65%已验证LLM路由是根据任务复杂度、成本预算和响应速度需求动态选择模型的推理优化策略，RouteLLM和LiteLLM等开源框架已在探索这一方向
65%待验证LiteLLM的日志系统支持与Langfuse、Helicone、Datadog和Prometheus等可观测性平台集成
90%待验证LiteLLM的护栏系统支持集成第三方审核服务如Lakera和Presidio
90%待验证该方案的所有数据和推理都在本地完成，不会外传到第三方服务器，适合对数据隐私有严格要求的企业场景
90%待验证通过设置环境变量ANTHROPIC_BASE_URL指向LiteLLM Proxy的本地端口，可以将Claude Agent SDK的请求重定向到本地模型，无需修改SDK源码
90%待验证LiteLLM和OneAPI等开源项目将不兼容OpenAI格式的模型（如Claude的原生API、Gemini的Vertex AI接口）统一适配为OpenAI格式
85%待验证业界知名的合规LLM网关方案包括LiteLLM、OneAPI以及企业级的Portkey
85%待验证LiteLLM的负载均衡策略支持加权轮询和最少连接数等算法
85%待验证LiteLLM是Python生态中的多模型统一代理，聚焦于API兼容性转换
80%待验证Portkey和LiteLLM是商业化的AI网关产品，提供统一的API代理层
80%