概念Time-slicing / GPU时间片调度
时间切片
GPU调度策略之一，将GPU时间切分为小片段并在多个任务间轮转分配，以降低短任务等待时间并提高整体资源利用率，但需权衡切换开销与响应延迟
时间轴 (近 90 天)
10月12日
Ai2的调度器采用时间切片（Time-slicing）机制，允许多个任务在同一组GPU上交替运行以降低短任务等待时间
待验证50%
10月12日
时间切片的粒度选择需在响应延迟与切换开销之间权衡，切片过短浪费在状态迁移，切片过长难以改善短任务等待
待验证50%