[控场AI]
产品KAI Scheduler

KAI Scheduler

面向AI负载的GPU调度器,支持批处理式调度(gang scheduling)、队列优先级、公平份额和抢占策略,与GPU分数化原生集成

时间轴 (近 90 天)

10月19日

开源内容包含四个模块:KAI Scheduler、CUDA 13.4的GPU fractioning能力、配额管理和本地Kind开发环境。

待验证50%
10月19日

KAI Scheduler源于Run:ai内部的调度器项目,采用批处理式调度(gang scheduling),即分布式训练任务的所有worker要么同时调度,要么全部等待。

待验证50%
10月19日

KAI Scheduler提供队列与优先级层级、公平份额分配和抢占策略,高优先级任务可驱逐低优先级任务并回收其GPU。

待验证50%
10月19日

Volcano和Gang Scheduling等开源方案已有队列、公平份额、抢占等概念的先例,KAI Scheduler的差异点在于与GPU分数化和配额体系原生打通。

待验证50%

全部知识事实 (4)

来源文章