待验证50% 置信事实精确时间
Hopper架构（H100，2022年）引入了Transformer Engine、TMA（Tensor Memory Accelerator）以及分布式共享内存
1
来源数
50%
置信度
长期有效
时效性
2026/9/6
首次发现
来源
涉及实体
相关事实
已验证NVIDIA Hopper架构（H100/H200）首次加入FP8 Tensor Core，并引入Transformer Engine自动管理精度转换69% 相似待验证TensorRT-LLM专门针对Transformer架构的自回归生成进行优化，支持KV缓存管理、in-flight batching和张量并行等特性66% 相似待验证H100 GPU基于Hopper架构，其Transformer引擎能在FP8和FP16精度间动态切换，将吞吐量提升至A100的约2-3倍65% 相似待验证llama.cpp 于 2023 年初以仅用 CPU 运行 LLaMA 模型，随后支持 Metal、CUDA、ROCm 等硬件加速后端65% 相似待验证Hopper架构的Transformer Engine可在FP8与FP16之间逐层动态切换精度63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/867458API
curl https://kongchang.com/api/v1/knowledge/claims/867458MCP
get_claim(id=867458)