[控场AI]

#CUDA

共 6 篇相关文章

Ollama v0.40.7-rc1:MLX与GGML共享CUDA运行时,打包体积瘦身
·6 分钟

Ollama v0.40.7-rc1:MLX与GGML共享CUDA运行时,打包体积瘦身

Ollama v0.40.7-rc1 提交去重 MLX 与 GGML 共享的 CUDA 运行时库,将其移入同级 CUDA payload 目录,保留 MLX 私有库与 JIT 头文件,并完整打包 OpenBLAS Fortran 运行时闭包、在发布阶段增加依赖校验,从而缩减发行包体积并简化依赖解析。

阅读全文 →
一键配置AI PC:Windows与Ubuntu AI环境安装器实战
·10 分钟

一键配置AI PC:Windows与Ubuntu AI环境安装器实战

SECourses推出Windows与Ubuntu一键AI环境安装器,自动配置CUDA 12.9/13.2、cuDNN、Python 3.10-3.14及C++工具链,并通过78项与66项真实测试验证环境可用性。本文详解安装流程、PATH调优逻辑与实测数据。

阅读全文 →
NVIDIA Green Contexts:精细控制GPU资源分配
·4 分钟

NVIDIA Green Contexts:精细控制GPU资源分配

NVIDIA Green Contexts 让开发者精细控制 GPU 计算资源的分配,将延迟敏感与吞吐密集型任务隔离到独立分区,提升并发工作负载的性能确定性与利用率。

阅读全文 →
NVIDIA CompileIQ:自动调优编译器选项,榨干GPU内核性能
产品体验
·4 分钟

NVIDIA CompileIQ:自动调优编译器选项,榨干GPU内核性能

深入解析NVIDIA CompileIQ自动调优工具,通过智能搜索编译器选项组合,为CUDA内核找到最优编译参数。覆盖技术原理、工作流程、AI训练与科学计算等应用场景,助力GPU性能工程师大幅提升内核执行效率。

阅读全文 →
NVIDIA CUDA Tile:基于瓦片的GPU编程新范式详解
教程攻略
·4 分钟

NVIDIA CUDA Tile:基于瓦片的GPU编程新范式详解

深入解析NVIDIA最新发布的CUDA Tile编程模型,了解其基于瓦片的GPU内核开发方式如何融合C++生态、优化数据局部性并加速Tensor Core计算,适用于HPC、深度学习和AI推理等场景。

阅读全文 →
NCCL多GPU通信优化实战:HPC高性能计算扩展指南
教程攻略
·5 分钟

NCCL多GPU通信优化实战:HPC高性能计算扩展指南

深入解析NVIDIA NCCL多GPU通信库的核心原理与优化策略,涵盖AllReduce、NVLink、GPUDirect RDMA等关键技术,帮助HPC和AI开发者掌握从单机多卡到超大规模集群的通信扩展之道。

阅读全文 →