Inferact
专注于大模型推理服务方向的技术公司,参与vLLM开源社区建设,提供基于高效推理引擎的应用层服务
时间轴 (近 90 天)
vLLM 团队与 Reflection AI、Inferact 合作完成了服务路径的联合优化,包括融合 kernel 和 DFlash。
该版本在GitHub上由贡献者Cam Quilici发起,commit带有GitHub的verified验证签名,参与者来自SemiAnalysis、Inferact等机构
vLLM 核心维护者、Inferact 联合创始人兼 CEO Simon Mo 将在 PyTorchCon 北美大会发表关于'扩展开源前沿推理基础设施'的主题演讲
vLLM 的维护力量呈现多机构协作格局,包括创业公司 Inferact 的创始人和 Red Hat AI 的工程师团队
本次见面会由vLLM团队联合Cohere、NVIDIA AI以及Inferact共同主办
Inferact是一家专注于LLM推理服务商业化落地的公司
Simon Mo是vLLM的核心维护者,同时担任Inferact的CEO
首届vLLM大会由AMD与Inferact共同协办
全部知识事实 (5)
vLLM 团队与 Reflection AI、Inferact 合作完成了服务路径的联合优化,包括融合 kernel 和 DFlash。
50%待验证该版本在GitHub上由贡献者Cam Quilici发起,commit带有GitHub的verified验证签名,参与者来自SemiAnalysis、Inferact等机构
50%待验证vLLM 的维护力量呈现多机构协作格局,包括创业公司 Inferact 的创始人和 Red Hat AI 的工程师团队
50%待验证Inferact是一家专注于LLM推理服务商业化落地的公司
50%待验证Simon Mo是vLLM的核心维护者,同时担任Inferact的CEO
50%