[控场AI]
概念model workload

模型工作负载

指训练、微调、推理或评测等需要占用算力资源的具体任务实例,可能以作业、容器或分布式进程形式存在;在大型集群中同一模型常对应多个并行任务,因此更适合作为追踪与管控的对象。

时间轴 (近 90 天)

11月9日

Control Room 的核心能力包括跨研究基础设施识别并跟踪模型工作负载,提供全局可见性。

待验证50%
11月9日

在大型研究集群中,同一模型往往对应多个并行任务,且任务会随实验进展动态启停。

待验证50%
11月9日

模型工作负载指的是在一次训练或推理过程中,由模型及其配套任务所消耗的计算资源与运行任务的总和。

待验证70%
11月9日

在大规模场景下,一个模型工作负载往往横跨成百上千块加速卡,并以作业(job)或容器编排单元的形式分布在集群中。

待验证50%

全部知识事实 (4)

来源文章