oMLX 是一个建立在 MLX 之上的 LLM 推理服务，支持连续批处理、内存+SSD 两级 KV 缓存，并兼容 OpenAI 与 Anthropic 的 API。