[KongchangAI]
ProductTesla T4 / T4 GPU

NVIDIA T4

NVIDIA面向数据中心推理场景设计的GPU,基于Turing架构,单卡16GB GDDR6显存,拥有320个Tensor Core,具有低功耗、高云端普及率的特点,广泛用于AI推理加速。

Timeline (last 90 days)

Sep 16

NVIDIA T4基于Turing架构,单卡拥有16GB GDDR6显存和320个Tensor Core

Unverified50%
Sep 16

70B参数的模型经Q4量化后约需35-40GB显存,单块T4无法胜任,双T4则基本可以满足

Unverified50%

All Facts (2)

Source Articles