[控场AI]
概念Preemptible Compute / 抢占式计算 / Spot实例

可抢占计算

云计算中一种动态定价机制,将数据中心闲置算力以大幅折扣出售给用户,当平台需要回收资源时会中断用户任务,适合可容忍中断的批处理和训练任务

时间轴 (近 90 天)

10月4日

Together GPU Clusters 宣布支持可抢占计算(preemptible compute),以按需价格的固定五折提供同等的 GPU 算力

待验证50%
10月4日

Together 的可抢占计算提供五分钟的排空窗口(five-minute drain window),任务被抢占前有五分钟时间保存状态

待验证50%
10月4日

可抢占计算的核心逻辑是云服务商以更低价格出售闲置算力资源,当平台需要回收资源时会提前通知并回收实例

待验证50%
10月4日

使用可抢占计算要求任务必须是可中断、可恢复的,需要在训练流程中实现周期性的 checkpoint 机制

待验证50%

全部知识事实 (4)

来源文章