产品KAI Scheduler
KAI Scheduler
面向AI负载的GPU调度器,支持批处理式调度(gang scheduling)、队列优先级、公平份额和抢占策略,与GPU分数化原生集成
时间轴 (近 90 天)
10月19日
开源内容包含四个模块:KAI Scheduler、CUDA 13.4的GPU fractioning能力、配额管理和本地Kind开发环境。
待验证50%
10月19日
KAI Scheduler源于Run:ai内部的调度器项目,采用批处理式调度(gang scheduling),即分布式训练任务的所有worker要么同时调度,要么全部等待。
待验证50%
10月19日
KAI Scheduler提供队列与优先级层级、公平份额分配和抢占策略,高优先级任务可驱逐低优先级任务并回收其GPU。
待验证50%
10月19日
Volcano和Gang Scheduling等开源方案已有队列、公平份额、抢占等概念的先例,KAI Scheduler的差异点在于与GPU分数化和配额体系原生打通。
待验证50%
全部知识事实 (4)
待验证
开源内容包含四个模块:KAI Scheduler、CUDA 13.4的GPU fractioning能力、配额管理和本地Kind开发环境。
50%待验证KAI Scheduler源于Run:ai内部的调度器项目,采用批处理式调度(gang scheduling),即分布式训练任务的所有worker要么同时调度,要么全部等待。
50%待验证KAI Scheduler提供队列与优先级层级、公平份额分配和抢占策略,高优先级任务可驱逐低优先级任务并回收其GPU。
50%待验证Volcano和Gang Scheduling等开源方案已有队列、公平份额、抢占等概念的先例,KAI Scheduler的差异点在于与GPU分数化和配额体系原生打通。
50%