NVIDIA开源NVKE与NVKR:GPU裸金属上跑托管K8s

NVIDIA 以 Apache 2.0 开源 NVKE 与 NVKR,让自有 GPU 裸金属跑托管 K8s。
NVIDIA 将 NVIDIA Kubernetes Engine(NVKE)与 NVIDIA Kubernetes Recipes(NVKR)以 Apache 2.0 协议开源,二者均处于公开预览阶段。组合方案让“AI 工厂”能在自有裸金属 GPU 服务器上运行一套托管 Kubernetes 服务,改变了过去托管 K8s 必须依赖公有云的格局。NVKE 提供引擎层,把集群生命周期与控制面运维软件化;NVKR 提供可复用配方,按推荐方式组装 GPU 驱动、运行时等组件。宽松许可证降低了生态伙伴集成与企业内部合规门槛。公开预览意味着接口仍可能调整,现阶段适合作为技术验证对象,生产落地还需观察监控、存储、网络等配套生态是否跟得上。
NVIDIA 把 NVIDIA Kubernetes Engine(NVKE)和 NVIDIA Kubernetes Recipes(NVKR)以 Apache 2.0 协议开源了。这两个项目合在一起,让所谓的 "AI 工厂" 能在自己的裸金属 GPU 服务器上运行一套托管 Kubernetes 服务。目前两者都处于公开预览阶段。

这件事到底改变了什么
托管 Kubernetes 一直是云厂商的生意。想要省心地跑 K8s,通常意味着把工作负载交给公有云,接受它的控制面、它的计费方式和它的网络模型。NVKE 和 NVKR 的组合给出的思路不一样:控制面由 NVIDIA 的软件栈提供,节点仍然是你自己的裸金属 GPU 机器。
这对拥有大量 GPU 资产的团队有直接吸引力。大规模 GPU 集群的采购成本高,闲置就是浪费,租用公有云的 GPU 实例又往往要付出溢价。如果能在自有硬件上获得接近托管体验的 Kubernetes,调度、升级和运维的负担会明显下降。
托管 Kubernetes 的控制面与数据面:Kubernetes 集群通常分为控制面(control plane)和数据面(data plane)。控制面包含 API Server、调度器、控制器管理器和 etcd,负责接收请求、调度 Pod 和维护集群状态;数据面则是运行实际工作负载的节点。云厂商的托管服务(如 EKS、GKE、AKS)本质上是把控制面作为服务运营,用户只负责节点。NVKE 要替代的正是这部分——把控制面软件化并交付给用户自行部署,同时保留裸金属 GPU 节点作为数据面。理解这一分层,才能看清“托管体验”与“自有硬件”并不矛盾:托管的是运维责任,而非物理位置。
裸金属与虚拟化的取舍:裸金属服务器指不经过 Hypervisor 虚拟化层、直接运行操作系统的物理机。对 GPU 工作负载而言,裸金属可以避免虚拟化带来的性能损耗,并让 GPU 直通、RDMA 网络和特定驱动栈的配置更直接可控,这也是 AI 工厂倾向裸金属的原因。代价是失去了云上按需弹性和快速供给的能力,节点生命周期管理需要自行承担,这正是 NVKE 试图补足的部分。
NVKE 与 NVKR 各自负责什么
从命名就能看出分工。NVKE 面向的是引擎层,也就是托管 Kubernetes 服务本身——它负责把集群的生命周期管理、控制面运维这些通常由云厂商承担的部分沉淀成可部署的软件。NVKR 则是"Recipes",提供的是可复用的配方,帮助用户把 GPU 相关的组件、驱动和运行时按推荐方式组装起来。
原文没有披露更细的模块划分和架构细节,但两者被放在一起开源这件事本身说明了定位:一个是底座,一个是把底座变成可用 GPU 平台的操作手册。对于不想从零拼装 GPU 调度栈的团队,Recipes 的价值可能比引擎本身更直接。
GPU 调度栈的典型组成:在 Kubernetes 上跑 GPU 工作负载,并非装好驱动即可。通常还需要 NVIDIA GPU Operator 来统一管理驱动、容器运行时(如 containerd)的 GPU 接入、设备插件(Device Plugin,向 kubelet 暴露 GPU 资源)、DCGM 指标采集,以及 GPU Feature Discovery 为节点打上型号与能力标签。此外,多卡训练还涉及 NCCL 通信库、GPUDirect Storage/RDMA 等组件。这些组件的版本兼容关系复杂,装配顺序也有讲究——NVKR 的“配方”价值正体现在把这些推荐组合固化为可重复执行的流程,减少团队在版本矩阵上试错的时间。
Apache 2.0 的信号意义
选择 Apache 2.0 而不是更保守的许可证,意味着商业使用、修改和再分发都不受额外限制。对基础设施软件来说,这不是一个随意做出的选择。
一方面,NVIDIA 需要生态伙伴——系统集成商、托管服务商、私有云厂商——愿意把 NVKE 嵌入自己的产品里,宽松许可证是前提。另一方面,这也降低了企业在内部落地的合规审查成本。GPU 基础设施的决策周期本来就长,许可证上的摩擦越少越好。
Apache 2.0 与 copyleft 许可证的区别:Apache 2.0 属于宽松型(permissive)许可证,允许用户自由使用、修改、分发代码,包括将其嵌入闭源商业产品,只需保留版权与许可声明,并附带专利授权条款。相比之下,GPL 等 copyleft 许可证要求衍生作品以相同许可证开源。对基础设施软件而言,宽松许可证让系统集成商和私有云厂商可以放心地把 NVKE 打包进自己的商业发行版,而不必公开自身产品的源代码,这是形成生态分销的关键前提。
公开预览阶段意味着什么
两个项目都标注为公开预览。这通常意味着接口和组件可能还会调整,生产环境的关键业务需要谨慎评估。原文没有给出正式 GA 的时间表。
对于正在规划自有 GPU 集群的团队,现阶段比较合理的做法是把它当作技术验证对象:先在非关键集群上跑通 NVKR 的配方流程,观察控制面在你自己的网络和存储环境下表现如何,再决定是否扩大范围。公开预览期的反馈往往也会影响后续版本的设计。
对 AI 基础设施建设者的实际意义
过去几年 GPU 算力的竞争集中在芯片供给上,但真正决定集群利用率的往往是上层软件。一套成熟的托管 Kubernetes 能让同样的硬件跑出更高的有效吞吐,也能让团队把精力从运维转向模型和业务。
NVKE 和 NVKR 的开源,把这个层面的能力从云厂商的专有产品变成了可以自查、可以改造的开源组件。它不一定会立刻改变市场格局,但对于那些 GPU 资产规模已经大到必须认真对待调度效率的组织,这是一条新的路径。
需要注意的是,托管体验的完整度最终取决于配套生态——监控、存储、网络插件、多租户隔离,这些是否跟得上,还需要在实际部署中检验。开源只是起点。
参考来源:MarkTechPost 报道《NVIDIA Open-Sources NVKE and NVKR for Managed Kubernetes on GPU Infrastructure》。
相关推荐

Gemini 4 Neon实测:能否挑战Opus 5.5?
谷歌49天连发4款Gemini 4模型,Neon实测能否挑战Opus 5.5?本文从榜单评测、真实视频制作任务和订阅成本三个维度分析Neon的真实水平,指出前沿模型差距已从写代码能力转向审美决策与意图理解。

前罪犯揭秘监狱心理变态比例:每880人约200个
前罪犯Larry Lawton在Lex Fridman播客中分享监狱观察:880名终身监禁犯中约200人是心理变态,比例高达23%。他探讨了善恶界限、监狱中的社交与情感,以及黑暗经历带来的智慧。

本地AI入门:Inkling、Qwen与Unsloth实战指南
面向初学者的本地AI实践指南,解析Inkling、Qwen与Unsloth在本地大模型部署与微调中的角色,涵盖模型选型、量化推理、轻量微调流程,以及本地与云端方案的取舍建议。