概念Preemptible Compute / 抢占式计算 / Spot实例
可抢占计算
云计算中一种动态定价机制,将数据中心闲置算力以大幅折扣出售给用户,当平台需要回收资源时会中断用户任务,适合可容忍中断的批处理和训练任务
时间轴 (近 90 天)
10月4日
Together GPU Clusters 宣布支持可抢占计算(preemptible compute),以按需价格的固定五折提供同等的 GPU 算力
待验证50%
10月4日
Together 的可抢占计算提供五分钟的排空窗口(five-minute drain window),任务被抢占前有五分钟时间保存状态
待验证50%
10月4日
可抢占计算的核心逻辑是云服务商以更低价格出售闲置算力资源,当平台需要回收资源时会提前通知并回收实例
待验证50%
10月4日
使用可抢占计算要求任务必须是可中断、可恢复的,需要在训练流程中实现周期性的 checkpoint 机制
待验证50%