[
KongchangAI
]
Feed
Entities
Podcasts
Deep Dives
Developers
About
Get CLI
中文
Product
InferCrane
Apache-2.0 开源的大模型推理运维工具,通过稳定的 OpenAI 兼容端点抽象层,实现推理基础设施的安全演进,支持控制平面与数据平面分离、持久化部署意图和长时操作身份保持
Source Articles
InferCrane开源工具:让自托管大模型推理安全演进
Sep 11