Tensor Core
Tensor Core是NVIDIA在其GPU架构中引入的专用硬件计算单元，专为高效执行矩阵乘法和累加运算（MMA）而设计。其核心特点是支持混合精度计算（如FP16、BF16、INT8等数据类型），能够在单个时钟周期内完成多个矩阵运算，显著提升深度学习训练与推理的吞吐量。Tensor Core广泛应用于神经网络模型的加速计算，是现代AI计算工作负载的核心硬件基础之一。
核心事实
时间轴 (近 90 天)
影响 GPU/TPU 计算效率的是维度能否被 8、16、32、64 等整除以利用 Tensor Core 等专用计算单元
缺少官方训练权重和 Tensor Core 级别的专用加速，开源项目在落地效果上大概率会与原版 DLSS 存在差距
相比通用 CUDA Core，Tensor Core 在执行神经网络推理时的吞吐量可高出数十倍
英伟达将 DLSS 的推理过程交给 RTX 显卡上的 Tensor Core 执行，并通过专有驱动调度
通用矩阵乘法（GEMM）是深度学习推理中最基础也最计算密集的操作，英伟达Tensor Core和谷歌TPU脉动阵列都是针对GEMM的特化优化
RTX GPU具备CUDA与Tensor Core加速能力，为在消费级PC上运行中小型模型和推理任务提供硬件基础
NVIDIA Ampere架构（A100，2020年发布）引入了第三代Tensor Core，支持TF32和结构化稀疏，HBM2e带宽达2TB/s
TensorRT通过算子融合、内核自动调优和内存优化来释放GPU硬件潜力
NVIDIA的GPU架构演进为Maxwell(2014)、Pascal(2016)、Volta(2017引入Tensor Core)、Turing(2018)、Ampere(2020)、Ada Lovelace(2022)
Maxwell架构没有Tensor Core，这是其AI推理性能与新架构差距巨大的根本原因
还有 5 条时间轴事件
全部知识事实 (20)
NVIDIA从Volta架构开始引入Tensor Core，这是一种专门用于矩阵乘加运算的硬件单元
85%已验证NVIDIA H100单卡FP64双精度浮点性能达到约34 TFLOPS
80%已验证TensorRT通过算子融合、内核自动调优和内存优化来释放GPU硬件潜力
80%已验证Tensor Core高效运行要求矩阵维度对齐至16或8的倍数
80%已验证A100的Tensor Core可以在单个时钟周期内完成一个4×4矩阵的乘加运算
80%已验证NVIDIA A100拥有6912个CUDA核心和432个Tensor Core，理论峰值算力达到312 TFLOPS（BF16）
75%已验证高通、联发科等芯片厂商已在移动SoC中集成专用NPU（神经网络处理单元）
70%已验证RTX 5090基于NVIDIA的Blackwell架构
65%已验证Ada Lovelace架构（RTX 40系列）具备FP8 Tensor Core支持
65%待验证NVIDIA的DLSS依赖GPU中的Tensor Core进行AI推理加速，只有RTX系列显卡才能使用
95%待验证Blackwell架构的第五代RT Core将光线追踪性能提升约2倍，Tensor Core支持FP4精度运算使AI推理吞吐量翻倍
85%待验证FP32到FP16的转换在现代GPU的Tensor Core上可实现2-4倍的吞吐量提升
85%待验证CUDA Tile的设计天然契合NVIDIA Tensor Core的工作方式，Tensor Core本身以瓦片为单位执行矩阵乘加（MMA）运算
70%待验证影响 GPU/TPU 计算效率的是维度能否被 8、16、32、64 等整除以利用 Tensor Core 等专用计算单元
50%待验证英伟达将 DLSS 的推理过程交给 RTX 显卡上的 Tensor Core 执行，并通过专有驱动调度
50%待验证相比通用 CUDA Core，Tensor Core 在执行神经网络推理时的吞吐量可高出数十倍
50%待验证缺少官方训练权重和 Tensor Core 级别的专用加速，开源项目在落地效果上大概率会与原版 DLSS 存在差距
50%待验证通用矩阵乘法（GEMM）是深度学习推理中最基础也最计算密集的操作，英伟达Tensor Core和谷歌TPU脉动阵列都是针对GEMM的特化优化
50%待验证RTX GPU具备CUDA与Tensor Core加速能力，为在消费级PC上运行中小型模型和推理任务提供硬件基础
50%待验证NVIDIA Ampere架构（A100，2020年发布）引入了第三代Tensor Core，支持TF32和结构化稀疏，HBM2e带宽达2TB/s
50%