ProductTesla T4 / T4 GPU
NVIDIA T4
NVIDIA面向数据中心推理场景设计的GPU,基于Turing架构,单卡16GB GDDR6显存,拥有320个Tensor Core,具有低功耗、高云端普及率的特点,广泛用于AI推理加速。
Timeline (last 90 days)
Sep 16
NVIDIA T4基于Turing架构,单卡拥有16GB GDDR6显存和320个Tensor Core
Unverified50%
Sep 16
70B参数的模型经Q4量化后约需35-40GB显存,单块T4无法胜任,双T4则基本可以满足
Unverified50%