CUDA Samples 实操指南从零跑通第一个 GPU 程序【免费下载链接】cuda-samplesSamples for CUDA Developers which demonstrates features in CUDA Toolkit项目地址: https://gitcode.com/GitHub_Trending/cu/cuda-samples如果你刚接触 GPU 编程最缺的往往不是概念而是能跑起来、能改得动的例子。CUDA Samples 是 NVIDIA 随 CUDA Toolkit 维护的官方示例仓库从最基础的向量加法和矩阵乘法到共享内存、CUDA Graphs、Tensor Core 这类进阶特性再到 cuBLAS、cuFFT 等库的使用几乎每个知识点都有对应代码。跟着它做一遍你能建立一套完整的 GPU 编程操作手感环境怎么配、程序怎么编译、输出怎么核对、报错怎么查。环境准备安装 CUDA Toolkit 并检查 nvcc 版本动手前先确认三件事装完再开始能省掉后面大半的排查时间。确认硬件与驱动需要一块支持 CUDA 的 NVIDIA GPU并装好对应版本。驱动版本必须不低于你装的 CUDA Toolkit 版本否则程序编译没问题运行时却报找不到设备。安装 CUDA Toolkit从 NVIDIA 官网下载对应操作系统的安装包装的时候把 CUDA 编译器nvcc、运行时库和开发头文件都勾上Linux 下还要保证 CMake 版本不低于 3.20仓库里写死了cmake_minimum_required(VERSION 3.20)太旧的 CMake 配置会直接失败。验证编译器可用在终端执行下面命令看到版本号输出即算成功nvcc --version如果提示找不到命令说明 Toolkit 的bin目录没进 PATH把安装路径里的bin加进环境变量再试一次。跑通第一个示例向量加法 vectorAdd 的编译与运行第一个例子选cpp/0_Introduction/vectorAdd它是整个仓库里最小的完整程序正好覆盖 GPU 程序的标准流程分配 CPU 内存 →cudaMalloc分配显存 →cudaMemcpy搬数据 → 启动内核 → 把结果搬回来核对。完整走一遍git clone https://gitcode.com/GitHub_Trending/cu/cuda-samples接着在项目根目录配置并编译Linux 上mkdir build cd build cmake .. make -j$(nproc)产物落在build/cpp/0_Introduction/vectorAdd里。运行并核对输出cd cpp/0_Introduction/vectorAdd ./vectorAdd你会依次看到几行提示向量长度、数据拷贝、内核启动最后一行是[Test PASSED]。看到它就说明环境、编译、运行整条链路都通了。这个示例里最值得盯住的是内核里那两行逻辑每个线程先算出自己的全局下标i blockIdx.x * blockDim.x threadIdx.x再检查i numElements。因为启动的线程数通常比元素数多按线程块对齐的多出来的线程必须跳过——这也是你以后写任何内核都要处理的边界问题。分配、拷贝、启动、校验这套动作几乎就是所有 GPU 程序的骨架。目录导航我想学 X 就去哪个目录仓库代码在cpp/下按主题分目录另有python/放 CuPy 示例Common/放公共工具头文件。不知道从哪下手时按想学什么对号入座你想了解去这里看向量加法、矩阵乘法、CUDA Graphs 基础cpp/0_Introduction约 40 个入门示例查硬件配置、卡间拓扑cpp/1_UtilitiesdeviceQuery、topologyQuery共享内存、归约、直方图、线程块协作cpp/2_Concepts_and_TechniquesCUDA Graphs、Tensor Core、异步拷贝等较新特性cpp/3_CUDA_FeaturescuBLAS、cuFFT、CUB、NPP 等官方库怎么用cpp/4_CUDA_Libraries图像滤波、金融定价、粒子系统、3D 渲染cpp/5_Domain_Specific不同优化手法的性能对比实验cpp/6_Performance底层 NVVM IR 与设备端启动cpp/7_libNVVMPython 里写 CUDApython/三个经典示例精读并行思维、共享内存与 GPU 库挑三个有代表性的各讲清它演示了什么、背后对应哪个概念。dct8x8用 8×8 像素块理解线程分工。这个例子对图像做离散余弦变换JPEG 压缩的核心步骤思路是图像按 8×8 分块每个块由一个线程独立处理变换所需的余弦基函数在寄存器里复用计算而不是反复去全局内存读系数。下面这张图列出了 8 个频率分量的基函数正好对应内核要计算的权重每个 u 对应一个频率分量频率越高的分量波峰波谷越多。看懂这张图再读代码你就明白了一个线程负责一小块数据、把重复读取压缩掉这个 GPU 编程的基本功。matrixMul共享内存的第一个完整示范。矩阵乘法最朴素的做法是线程反复从全局内存显存容量大但速度慢取数带宽很快被吃光。matrixMul 的优化是每个线程块先把要用到的数据子块一次性读进共享内存芯片上更小但更快的片上存储之后累加全部从共享内存取。全局内存访问次数大幅下降——先搬到近处再反复用是 GPU 优化里出现频率最高的手法。nvJPEG把官方库接进自己的流水线。解码一张 JPEG 在 CPU 上不便宜nvJPEG 直接调用 GPU 上的编解码硬件解出来的图像随后可以直接喂给别的 CUDA 内核处理。下图就是示例里解码出来的一张样图这个例子的价值在于让你看到库的用法闭环创建解码 handle → 传入压缩数据 → 拿设备指针 → 接着算而不是每次都自己造轮子。常见报错排查现象、原因与解决编译和运行 CUDA 程序踩坑是有固定套路的按现象对Could NOT find CUDAToolkitcmake 阶段Toolkit 没装或者 CMake 版本低于 3.20 找不到包。重装/升级 CMake确认nvcc --version有输出后再执行cmake ..。终端里nvcc找不到Toolkit 的bin目录不在 PATH 里。把安装路径/bin加进环境变量或临时用绝对路径执行。cudaErrorMemoryAllocationCUDA 编译报错里最常见的运行期错误显存不够。缩小数组规模、关掉浏览器里吃显存的 GPU 加速多卡机器可先跑deviceQuery看哪块卡有空闲显存再指定设备。链接错误找不到 CUDA 运行时库自己拼命令编译时漏了运行时库如-lcudart用仓库自带 CMake 构建一般不会遇到问题基本出在手工编译命令上。能编译一运行就报 no CUDA-capable device驱动版本低于 Toolkit 版本。升级驱动后重试。算出来的结果不对先查两处——内核启动后忘了同步就读结果或者没有逐个检查 CUDA 调用的返回值。跑一遍compute-sanitizer ./程序排查非法访问需要进 GPU 内部断点时用 CMake 变量ENABLE_CUDA_DEBUG打开 cuda-gdb 支持再编译。接下来做什么编译并运行 deviceQuery记下自己 GPU 的算力编号和显存大小后面选架构参数用得上。把 vectorAdd 的numElements和 grid 配置改成非整除块大小的值确认边界检查依然正确——这是理解内核边界逻辑最快的方式。挑一个目录里的例子完整跑一遍读完它的 README对照本文章的目录导航表定位它属于哪一层。想啃硬骨头就按 2_Concepts_and_Techniques → 3_CUDA_Features 的顺序推进想省事就从 4_CUDA_Libraries 挑一个库学起来。遇到性能疑问时用 Nsight Systems 抓一次时间线先确认瓶颈在拷贝还是在内核再决定优化方向。【免费下载链接】cuda-samplesSamples for CUDA Developers which demonstrates features in CUDA Toolkit项目地址: https://gitcode.com/GitHub_Trending/cu/cuda-samples创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
