[控场AI]
产品P40

Tesla P40

NVIDIA推出的数据中心GPU,基于Pascal架构,拥有24GB GDDR5显存,因二手价格低廉常被用于大模型推理

时间轴 (近 90 天)

10月24日

三周内141次提交、2156个文件,覆盖45种显卡,从Tesla P40到RTX 5090。

待验证50%
10月24日

双卡对比实验:Pro 4500跑Q4单卡61.5 tok/s,双卡111.0 tok/s(1.81倍);Tesla P40从19.6到34.8 tok/s(1.78倍);另两组为1.48倍和1.22倍。

待验证50%

全部知识事实 (2)

来源文章