[控场AI]
产品Tesla T4 / T4 GPU

NVIDIA T4

NVIDIA面向数据中心推理场景设计的GPU,基于Turing架构,单卡16GB GDDR6显存,拥有320个Tensor Core,具有低功耗、高云端普及率的特点,广泛用于AI推理加速。

时间轴 (近 90 天)

9月16日

NVIDIA T4基于Turing架构,单卡拥有16GB GDDR6显存和320个Tensor Core

待验证50%
9月16日

70B参数的模型经Q4量化后约需35-40GB显存,单块T4无法胜任,双T4则基本可以满足

待验证50%

全部知识事实 (2)

来源文章