NVIDIA
NVIDIA(英伟达)是一家美国半导体和技术公司,主要设计和销售图形处理器(GPU)、系统芯片及相关软件平台。其产品广泛应用于游戏图形渲染、数据中心计算、人工智能训练与推理、自动驾驶及专业可视化等领域。NVIDIA还开发了CUDA并行计算平台,使GPU能够用于通用科学计算,是现代AI基础设施的核心供应商之一。
核心事实
时间轴 (近 90 天)
在NVIDIA的Ling-3.0-flash模型中,每个token在每层MoE中从512个路由专家里选择8个,外加一个共享专家。
NVIDIA于近日发布了Nemotron 3.5 Transcribe语音转写模型。
Nemotron 3.5 Transcribe的day-0 serving策略本质上把生态协同当作产品能力的一部分。
NeMo Speech是NVIDIA的语音工具链,覆盖语音识别、说话人分离等任务的训练与推理流程。
显卡识别依赖 NVIDIA 的 NVML 接口读取显存容量与算力等级,据此决定分辨率上限、是否启用半精度(fp16)或显存优化策略。
GB300以整机架为交付单位,面向大规模训练与高吞吐推理场景。
Xid 13/31 多与非法内存访问或用户应用越界有关,Xid 48 通常表示双位ECC错误,Xid 79 表示GPU已从总线上掉线(fallen off the bus),Xid 62/64 常与页表或内部微控制器异常相关。
Xid消息由NVIDIA驱动在检测到GPU异常时写入系统日志,Linux下通常出现在dmesg或/var/log/syslog中,格式类似“NVRM: Xid (PCI:0000:3b:00): 79, pid=12345”。
Xid是NVIDIA GPU驱动报错的标准代码体系,不同代码对应不同性质的硬件或驱动问题。
CUDA 13.4 官方博客未给出内存强制机制在共享场景下的统一性能基准。
还有 40 条时间轴事件
全部知识事实 (20)
NVIDIA Nemotron 3.5 Super VL 是 120B 参数 MoE 模型,激活参数 12B,支持最高 100 万 token 上下文,面向文档理解、computer use 和 agent 场景。
90%已验证TensorRT 是 NVIDIA 提供的高性能推理优化引擎,能将 PyTorch/ONNX 模型编译为针对 GPU 优化的执行引擎,通常可将推理速度提升 2-5 倍
90%已验证NVIDIA A100的HBM2e容量为80GB,H100为80GB HBM3,H200为141GB
90%已验证英伟达H100采用的HBM3内存带宽高达3.35TB/s
90%已验证在H100 NVLink架构中,单台服务器内8块GPU可通过NVSwitch全互联,总带宽达900GB/s,相比PCIe 5.0的64GB/s有数量级提升
90%已验证NVFP4是NVIDIA推出的4位浮点(FP4)量化格式,专为Blackwell架构GPU的硬件加速能力设计
90%已验证NVIDIA A100单卡拥有80GB HBM2e显存和312 TFLOPS的FP16算力
90%已验证美国自2022年起对中国实施先进半导体出口管制,限制高端AI训练芯片如NVIDIA A100/H100及其后续产品的出口
90%已验证NVIDIA CUDA于2006年推出,最初是让开发者利用GPU进行通用计算的编程框架
90%已验证NVIDIA H100单卡FP64双精度浮点性能达到约34 TFLOPS
90%已验证xAI建设了名为Colossus的超级计算集群,据报道配备了超过10万块NVIDIA H100 GPU
90%已验证NVIDIA NIM(Inference Microservices)是NVIDIA推出的推理微服务平台,将优化后的AI模型封装为标准化容器镜像,支持在企业本地GPU上一键部署
90%已验证训练一次GPT-4级别的模型需要数万块A100/H100 GPU协同工作数月
90%已验证英伟达H100/H200 GPU单卡售价高达3-4万美元
90%已验证CUDA(Compute Unified Device Architecture)是NVIDIA推出的并行计算平台
90%已验证英伟达H100/H200系列GPU在AI训练和推理市场占据超过80%的份额
90%已验证ROCm是AMD面向高性能计算和AI工作负载的开源软件平台,包含HIP编程接口,允许CUDA代码以较低成本移植到AMD GPU
90%已验证NVIDIA的CUDA生态是AI推理行业的事实标准
85%已验证Qwen3.8-Flash-Next 采用 125B 总参数、6B 激活参数的混合专家(MoE)架构
85%已验证NVIDIA的TensorRT-LLM针对其硬件架构深度优化推理速度
85%