CUDA
CUDA（Compute Unified Device Architecture）是NVIDIA推出的并行计算平台和编程模型，允许开发者利用NVIDIA GPU的并行处理能力加速通用计算任务。它提供C/C++等语言的扩展接口，使程序员能够直接调度GPU上的大量并行线程，广泛应用于科学计算、深度学习、图像处理和数据分析等高性能计算领域。
Core Facts
Timeline (last 90 days)
此前CUDA在Windows上仅支持x86平台，Arm设备上的GPU计算需通过Windows内置的Prism转译层以x86模拟方式运行
Unsloth是专注于大语言模型高效训练和推理的开源框架，通过手写CUDA内核、自定义反向传播和激活函数重计算等优化，可将显存占用降低40-60%、训练速度提升2倍以上
NeSLE项目将NES的6502 CPU、PPU和总线全部实现为CUDA内核，采用一个线程对应一个环境的并行模式
NVIDIA的CuLE是在2019年发布的研究项目，将Atari 2600模拟器完整移植到CUDA上运行
GPU 上的矩阵乘法通过 cuBLAS 库利用数千个 CUDA 核心并行计算
英特尔推出oneAPI试图打破CUDA壁垒
英伟达凭借CUDA生态在AI训练市场占据90%份额
对于25万行Fortran代码,OpenACC通常是首选起点,成功移植后再用CUDA优化性能关键部分
CUDA是NVIDIA的专有平台,需要显式编写kernel函数,学习曲线陡峭但性能潜力最大
PyTorch/TensorFlow的ROCm后端相比CUDA版本通常滞后2-6个月
40 more timeline events
All Facts (20)
NVIDIA CUDA于2006年推出，最初是让开发者利用GPU进行通用计算的编程框架
90%VerifiedCUDA是NVIDIA于2006年推出的并行计算平台和编程模型
80%Verified截至2024年，CUDA开发者社区已超过400万人，基于CUDA优化的软件库超过900个
75%VerifiedCUDA（Compute Unified Device Architecture）是NVIDIA推出的并行计算平台和编程模型
75%VerifiedNVIDIA的CUDA生态是AI推理行业的事实标准
65%VerifiedCUDA自2006年推出以来已成为AI/深度学习领域事实上的行业标准，PyTorch、TensorFlow等主流框架的默认后端均为CUDA
65%VerifiedFlashAttention通过将注意力机制的多步计算融合到单一CUDA内核中，显存占用从O(N²)降低至O(N)，速度提升2-4倍
65%VerifiedRTX A6000基于Ampere架构，搭载10496个CUDA核心与48GB GDDR6显存，带宽768 GB/s，FP32算力38.7 TFLOPS
65%VerifiedNVIDIA显卡因CUDA生态支持最为完善而成为Stable Diffusion本地部署的首选
65%Unverifiedds4 is written in pure C with native support for Metal, CUDA, and ROCm backends
100%UnverifiedOllama将CUDA、cuDNN等底层依赖封装在内部，用户无需手动配置GPU环境
90%Unverified许多AI项目底层依赖的Python库、CUDA工具链或第三方组件在处理文件路径时使用ASCII编码，无法正确解析Unicode字符
80%Unverifiedllama.cpp部署时应选择CUDA 12.4版本而非13.x，因为13.x目前存在已知bug
80%UnverifiedSimultaneous support for Metal, CUDA, and ROCm is uncommon among open-source inference projects
70%Unverified摩尔线程采用自研的MUSA（Moore Threads Unified System Architecture）架构，试图构建类似NVIDIA CUDA的软硬件生态体系
60%UnverifiedCUDA目前已拥有超过400万活跃开发者
60%Unverified此前CUDA在Windows上仅支持x86平台，Arm设备上的GPU计算需通过Windows内置的Prism转译层以x86模拟方式运行
50%UnverifiedUnsloth是专注于大语言模型高效训练和推理的开源框架，通过手写CUDA内核、自定义反向传播和激活函数重计算等优化，可将显存占用降低40-60%、训练速度提升2倍以上
50%UnverifiedNeSLE项目将NES的6502 CPU、PPU和总线全部实现为CUDA内核，采用一个线程对应一个环境的并行模式
50%UnverifiedGPU 上的矩阵乘法通过 cuBLAS 库利用数千个 CUDA 核心并行计算
50%