Vera Rubin
英伟达新一代AI服务器/GPU架构,以天文学家Vera Rubin命名,相比上一代GB200系列在token吞吐量上有显著提升,旨在降低AI推理成本
时间轴 (近 90 天)
英伟达即将推出的Vera Rubin平台严重依赖基于Ozaki方案的FP64仿真能力,通过把运算拆分到低精度操作中来恢复双精度结果。
CoreWeave尚未公布Rubin在限量供应期的价格,Cognition的费率也是私密的,实际节省多少仍是未知数
Cognition成为首个在英伟达Vera Rubin服务器上运行其编程智能体Devin的客户
4.8倍这一数字指的是在单用户响应速度相同的点上,单GPU每秒处理的token总量之比,而非答案变快4.8倍或同时服务4.8倍用户
Cognition宣称相比上一代服务器,Rubin每秒处理的token数量最高提升至4.8倍
Cognition运行Devin的Vera Rubin服务器从云厂商CoreWeave租用而来
根据CoreWeave的对比图,Rubin在慢速端相比GB200优势约为3倍,在快速端攀升至7倍以上
本次公开测试附录只比较了 GB200 和 GB300,并未包含即将量产出货的 Vera Rubin
英伟达Blackwell和Vera Rubin芯片对机架散热密度的要求已超出传统风冷上限,需要液冷甚至浸没式冷却基础设施
Vera Rubin是NVIDIA继Blackwell之后的新一代计算平台
还有 5 条时间轴事件
全部知识事实 (11)
英伟达即将推出的Vera Rubin平台严重依赖基于Ozaki方案的FP64仿真能力,通过把运算拆分到低精度操作中来恢复双精度结果。
50%待验证Cognition运行Devin的Vera Rubin服务器从云厂商CoreWeave租用而来
50%待验证Cognition宣称相比上一代服务器,Rubin每秒处理的token数量最高提升至4.8倍
50%待验证4.8倍这一数字指的是在单用户响应速度相同的点上,单GPU每秒处理的token总量之比,而非答案变快4.8倍或同时服务4.8倍用户
50%待验证根据CoreWeave的对比图,Rubin在慢速端相比GB200优势约为3倍,在快速端攀升至7倍以上
50%待验证CoreWeave尚未公布Rubin在限量供应期的价格,Cognition的费率也是私密的,实际节省多少仍是未知数
50%待验证英伟达Blackwell和Vera Rubin芯片对机架散热密度的要求已超出传统风冷上限,需要液冷甚至浸没式冷却基础设施
50%待验证Vera Rubin是NVIDIA继Blackwell之后的新一代计算平台
50%待验证Vera Rubin平台采用全新设计的GPU与NVIDIA自研Arm架构CPU,构成超级芯片解决方案
50%待验证Vera Rubin是NVIDIA继Blackwell之后的新一代计算平台,命名源自发现暗物质关键证据的美国天文学家Vera Rubin
50%待验证Cognition成为首个在英伟达Vera Rubin服务器上运行其编程智能体Devin的客户
50%