Vast.ai
Vast.ai是一家云GPU算力租赁平台,提供竞价和按需实例,支持多种GPU型号,主要面向AI/ML开发者和研究人员
时间轴 (近 90 天)
作者建议在Vast.ai上先跑基准测tokens/秒、选按需实例避免被抢占、用git archive同步代码(注意已提交密钥会被打包)、用完立即销毁实例以避免磁盘计费。
在Vast.ai上租用RTX 5090(每小时0.584美元),使用bf16和torch.compile,Keera预训练吞吐约234,000 token/秒,2B token训练耗时2小时23分钟,验证损失1.501。
GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。
专业GPU租赁与托管领域除了AWS、GCP、Azure三大云厂商外,还有CoreWeave、Lambda Labs、RunPod、Vast.ai等新兴玩家
RunPod和Vast.ai以市场化竞价模式聚合分散算力,价格弹性但稳定性相对较弱
Lambda、CoreWeave、RunPod、Vast.ai 等是专注于 AI 算力的新兴云平台
Vast.ai 采用聚合模式,将分散在全球的个人矿机、小型数据中心算力统一纳入市场撮合,买家可按小时竞价
Vast.ai、RunPod 等算力撮合平台价格最低,因为租用的本质是他人闲置的机器
算力承接网络的典型玩家包括CoreWeave、Crusoe等GPU云平台,以及Vast.ai、RunPod等P2P算力市场
Vast.ai 是算力共享市场,价格更低但稳定性略差
还有 4 条时间轴事件
全部知识事实 (11)
在Vast.ai上租用RTX 5090(每小时0.584美元),使用bf16和torch.compile,Keera预训练吞吐约234,000 token/秒,2B token训练耗时2小时23分钟,验证损失1.501。
50%待验证作者建议在Vast.ai上先跑基准测tokens/秒、选按需实例避免被抢占、用git archive同步代码(注意已提交密钥会被打包)、用完立即销毁实例以避免磁盘计费。
50%待验证GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。
50%待验证RunPod和Vast.ai以市场化竞价模式聚合分散算力,价格弹性但稳定性相对较弱
50%待验证专业GPU租赁与托管领域除了AWS、GCP、Azure三大云厂商外,还有CoreWeave、Lambda Labs、RunPod、Vast.ai等新兴玩家
50%待验证Vast.ai 采用聚合模式,将分散在全球的个人矿机、小型数据中心算力统一纳入市场撮合,买家可按小时竞价
50%待验证Lambda、CoreWeave、RunPod、Vast.ai 等是专注于 AI 算力的新兴云平台
50%待验证Vast.ai、RunPod 等算力撮合平台价格最低,因为租用的本质是他人闲置的机器
50%待验证算力承接网络的典型玩家包括CoreWeave、Crusoe等GPU云平台,以及Vast.ai、RunPod等P2P算力市场
50%待验证Vast.ai 是算力共享市场,价格更低但稳定性略差
50%待验证CrofAI声称用Vast租用的RTX Pro 6000运行Kimi K3,但即便采用Q2_K量化该模型也需约802GiB显存,而Vast上最大8卡RTX PRO 6000机器仅有765GiB显存
50%