待验证50% 置信事实精确时间
LiteLLM 的本地 provider 包括 ollama、llama_cpp、vllm、tgi 等
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/11
首次发现
有效期至：2027/1/9
来源
涉及实体
相关事实
待验证LiteLLM的Proxy模式运行为独立的FastAPI服务，支持虚拟密钥管理、团队级预算限制、请求重试和回退链配置，可通过YAML配置文件定义模型组、优先级和限流规则67% 相似待验证业界知名的合规LLM网关方案包括LiteLLM、OneAPI以及企业级的Portkey65% 相似已验证LiteLLM提供Python SDK和Proxy Server（AI Gateway）两种使用模式64% 相似待验证Stone+ 网关服务采用本地反向代理架构，实现一次配置多客户端复用，该架构模式在 LiteLLM、LM Studio、Ollama 等工具中均有采用64% 相似待验证通过 CC Switch 中转可将 LM Studio、llama.cpp、vLLM 等开放 API 端口的本地模型接入 ChatGPT60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/998080API
curl https://kongchang.com/api/v1/knowledge/claims/998080MCP
get_claim(id=998080)