#高性能计算

共 6 篇相关文章

NVIDIA DOCA GPUNetIO让网络通信成为GPU直接控制的一等操作，统一整个软件栈的GPU发起网络能力，为大规模AI训练、推理和HPC工作负载减少CPU瓶颈、降低延迟。

TileLang 是一门以 Python 为语法、面向 GPU/CPU/加速器的高性能内核开发领域特定语言（DSL）。本文解析其 tile 分块抽象、跨硬件设计与在大模型算子优化中的应用价值。

深入解析Gauss-Seidel迭代法中的循环携带依赖问题，探讨如何通过循环展开技术打断依赖链、隐藏指令延迟，从而提升数值计算的实际性能表现及其中的工程权衡。

深入解析NVIDIA最新发布的CUDA Tile编程模型，了解其基于瓦片的GPU内核开发方式如何融合C++生态、优化数据局部性并加速Tensor Core计算，适用于HPC、深度学习和AI推理等场景。

深入解析NVIDIA NCCL多GPU通信库的核心原理与优化策略，涵盖AllReduce、NVLink、GPUDirect RDMA等关键技术，帮助HPC和AI开发者掌握从单机多卡到超大规模集群的通信扩展之道。

深入解析NVIDIA GB200 NVL72机架级NVLink架构特点，详解Slurm块调度策略如何通过拓扑感知分配、减少资源碎片化来最大化72 GPU互联效率，附配置要点与工作负载优化实践。