A100
Core Facts
Timeline (last 90 days)
在ESC-50数据集的声音分类实验中，训练前首位命中率约25%，在A100上训练约七分半钟后提升到约66%
使用 QLoRA 在 A100 和 RTX PRO 6000 上，Qwen3.5-35B-A3B 的训练速度最高可提升 4.1 倍，Qwen3-30B-A3B 最高提升 3.3 倍
70B级模型往往需要多卡或云端A100/H100才能流畅推理
英伟达高端GPU（如H100、A100、消费级4090）拥有数千个CUDA核心，配合大显存带宽，可在显存容量允许前提下同时为多个推理请求服务
一家美股上市公司CEO涉嫌走私超过3亿美元英伟达芯片，将A100、H100等GPU从东南亚转运至中国，FBI指控其使用虚假身份购买芯片，2024年单年获利超1.76亿美元，最高面临20年刑期
AI加速器通常指专为深度学习计算设计的硬件，包括NVIDIA的GPU（如H100、A100系列）以及各类专用芯片
RTX 5090的技术特性与受管制的数据中心级芯片（如NVIDIA A100、H100）高度重叠
针对 NVIDIA Ampere（A100）架构手工调优的 kernel 在 Hopper（H100）上未必仍是最优，因为新架构引入了 Tensor Memory Accelerator（TMA）等新型内存访问指令
MiniMax-H3 模型的首帧渲染最多可提前约一分钟完成，并在 A100、B200 和 RTX PRO 6000 上降低了 25–29 GiB 的峰值显存占用
英伟达从A100到H100再到Blackwell架构的迭代节奏不足两年，每代性能提升幅度达数倍
40 more timeline events
All Facts (20)
训练一次GPT-4级别的模型需要数万块A100/H100 GPU协同工作数月
90%Verified美国自2022年起对中国实施先进半导体出口管制，限制高端AI训练芯片如NVIDIA A100/H100及其后续产品的出口
85%VerifiedNVIDIA A100每个SM拥有65536个32位寄存器
80%VerifiedNVIDIA的MIG技术可在A100/H100等高端GPU上实现硬件级别的资源隔离
80%Verified业界估算GPT-4的训练成本超过1亿美元，涉及数万块A100 GPU、数月的持续运算和PB级别的训练数据
80%Verified美国对华限制高端GPU出口，包括英伟达A100、H100等
75%Verified70B级别的模型即便经过量化，往往也需要40GB以上显存或多卡配置
75%Verified2022年10月，拜登政府首次出台针对先进计算芯片的出口管制，限制NVIDIA A100、H100等高端GPU对华出口
75%Verified支持128K上下文的70B参数模型的KV Cache满负荷时可能需要数百GB显存，超过单张H100的80GB显存容量
70%VerifiedNVLink 4.0（用于H100）单向带宽可达900 GB/s
70%VerifiedMIG利用Ampere架构的GPC物理隔离能力，在硬件层面将GPU计算单元、L2缓存和显存带宽切分为独立分区，提供真正的硬件级隔离
65%Verified美国商务部自2022年将A100、H100等高端GPU纳入出口管制清单
65%UnverifiedNVIDIA MIG仅支持A100/H100等高端卡且切分粒度有限，vGPU方案需要额外购买商业许可证
85%UnverifiedNVIDIA MIG仅A100/H100支持
85%Unverified单卡RTX 4090即可运行GPT-OSS 20B，单卡A100即可运行GPT-OSS 120B
80%Partially VerifiedNVIDIA的H100/A100 GPU占据AI市场约80%份额
75%Unverified部署DeepSeek-R1 671B MoE模型需要至少数张高端GPU（如H100或A100），显存需求超过320GB
75%Partially VerifiedNVIDIA A100专业训练卡拥有40GB或80GB HBM2e显存，单卡售价超过1万美元
65%UnverifiedGPU代际从A100到H100再到H200演进，每一代新GPU都在推动推理效率前沿向外扩展
60%UnverifiedGoogle Colab提供免费的T4 GPU和付费的A100/V100资源
60%