待验证50% 置信事实精确时间

InferCrane 可以接管已有的推理服务，包括 vLLM、SGLang、LiteLLM、自定义 OCI 镜像或任意 OpenAI 兼容端点

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/11

首次发现

有效期至：2026/12/10

来源

InferCrane开源工具：让自托管大模型推理安全演进

涉及实体

InferCraneproduct

相关事实

待验证ml-intern通过LiteLLM支持OpenAI兼容接口，并支持Ollama和vLLM作为本地推理后端76% 相似已验证LiteLLM、OpenRouter等中间件让开发者能用统一API接口调度不同厂商的模型70% 相似已验证LiteLLM是一个开源的LLM API统一代理层，将数十家模型提供商的API统一封装为OpenAI兼容格式69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/900593

API

curl https://kongchang.com/api/v1/knowledge/claims/900593

MCP

get_claim(id=900593)