环境配置指南

从零开始搭建 CUDA 开发环境

本章定位

本章负责把 CUDA 学习环境跑通。环境验证通过后，继续读第1章-基础概念和 CUDA 编程基础。

配套主文档：

1. 硬件要求

1.1 检查 GPU

首先确认你的电脑有 NVIDIA GPU：

Windows:

右键”此电脑” → 管理 → 设备管理器 → 显示适配器
看到 “NVIDIA GeForce RTX …” 或 “NVIDIA Quadro …” 即表示有 NVIDIA GPU

Linux:

nvidia-smi

如果看到 GPU 信息表格，说明 GPU 正常工作。

输出示例：

+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.104.05             Driver Version: 535.104.05   CUDA Version: 12.2     |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 4090        Off | 00000000:01:00.0  On |                  N/A |
|  0%   35C    P8              20W / 450W |   1024MiB / 24564MiB |      0%      Default |
+-----------------------------------------+----------------------+----------------------+

1.2 GPU 计算能力参考

GPU 型号	架构	计算能力 (sm_*)	显存	Tensor Core
GTX 1060/1070/1080	Pascal	sm_61	6-8GB	无
RTX 2060/2070/2080	Turing	sm_75	6-11GB	有
RTX 3060/3070/3080/3090	Ampere	sm_86	8-24GB	有
RTX 4060/4070/4080/4090	Ada	sm_89	8-24GB	有
RTX 5070/5080/5090 (RTX 50 系列)	Blackwell (consumer)	sm_120 / sm_120a	12-32GB	有 (FP4/FP6/FP8)
A100	Ampere	sm_80 / sm_80a	40-80GB	有
H100 / H200	Hopper	sm_90 / sm_90a	80-141GB	有 (FP8)
B200 (data center)	Blackwell	sm_100 / sm_100a	192GB HBM3e	有 (FP4/FP6/FP8 + tcgen05)
B300 (Blackwell Ultra)	Blackwell Ultra	sm_10x（以最新 CUDA Programming Guide 为准）	更大 HBM3e	有 (强化 FP4 dense + attention)

sm_XXa 中的 a 后缀表示 architecture-accelerated features——能用上该架构的低层专用指令（如 Hopper 的 wgmma、Blackwell 的 tcgen05.mma），但生成的代码绑定具体架构、不能跨代运行。初学先用 sm_XX（不带 a）即可；做低层 Tensor Core 优化时再开启 sm_XXa。规格类详细数字以 NVIDIA GPU 架构与规格为唯一来源。

2. 安装 CUDA Toolkit

2.1 下载 CUDA

官网下载： https://developer.nvidia.com/cuda-downloads

根据你的操作系统选择对应版本。推荐使用 CUDA 11.8 或 CUDA 12.x。

2.2 Windows 安装

下载 .exe 安装程序
双击运行，选择”自定义安装”
勾选以下组件：
- CUDA → Development
- CUDA → Runtime
- Driver Components（如果驱动较旧）
安装完成后重启电脑

2.3 Linux 安装（Ubuntu）

# 方法 1：使用包管理器（推荐）
# 添加 NVIDIA 包仓库
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo apt-get update
 
# 安装 CUDA
sudo apt-get install cuda
 
# 方法 2：使用 runfile
wget https://developer.download.nvidia.com/compute/cuda/12.2.0/local_installers/cuda_12.2.0_535.54.03_linux.run
sudo sh cuda_12.2.0_535.54.03_linux.run

2.4 配置环境变量

Windows:

系统属性 → 高级 → 环境变量 → Path
添加：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2\bin

Linux:

# 编辑 ~/.bashrc
echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

2.5 验证安装

# 检查 CUDA 版本
nvcc --version
 
# 输出示例：
# nvcc: NVIDIA (R) Cuda compiler driver
# Copyright (c) 2005-2023 NVIDIA Corporation
# Built on Mon_Apr__3_17:16:06_PDT_2023
# Cuda compilation tools, release 12.1, V12.1.105

3. 安装开发工具

3.1 Visual Studio（Windows 推荐）

下载 Visual Studio Community（免费）
安装时勾选”使用 C++ 的桌面开发”
CUDA 会自动集成到 VS 中

3.2 VS Code（轻量级推荐）

下载安装 VS Code：https://code.visualstudio.com/
安装扩展：
- CUDA（NVIDIA 官方）
- C/C++（Microsoft）
- CMake Tools（可选）

3.3 CLion（JetBrains）

下载安装 CLion
配置 CUDA 工具链：
- Settings → Build → Toolchains
- 添加 MinGW 或 Visual Studio 环境
安装 CUDA 插件

4. 第一个 CUDA 程序

4.1 创建文件

创建 hello_cuda.cu：

#include <stdio.h>
 
__global__ void hello_from_gpu() {
    printf("Hello from GPU thread %d!\n", threadIdx.x);
}
 
int main() {
    printf("Hello from CPU!\n");
 
    // 启动 Kernel：1个 Block，5个线程
    hello_from_gpu<<<1, 5>>>();
 
    // 等待 GPU 完成
    cudaDeviceSynchronize();
 
    printf("Done!\n");
    return 0;
}

4.2 编译运行

命令行编译：

# 编译
nvcc hello_cuda.cu -o hello_cuda
 
# 运行
./hello_cuda
 
# Windows
hello_cuda.exe

VS Code 配置：

创建 .vscode/tasks.json：

{
    "version": "2.0.0",
    "tasks": [
        {
            "label": "build CUDA",
            "type": "shell",
            "command": "nvcc",
            "args": [
                "-g",
                "-G",
                "-o",
                "${fileBasenameNoExtension}",
                "${file}"
            ],
            "group": {
                "kind": "build",
                "isDefault": true
            }
        }
    ]
}

4.3 预期输出

Hello from CPU!
Hello from GPU thread 0!
Hello from GPU thread 1!
Hello from GPU thread 2!
Hello from GPU thread 3!
Hello from GPU thread 4!
Done!

5. 使用 Google Colab（无 GPU 方案）

如果你没有 NVIDIA GPU，可以使用 Google Colab 的免费 GPU：

5.1 设置步骤

打开 https://colab.research.google.com/
新建笔记本
点击菜单：运行时 → 更改运行时类型
硬件加速器选择 “T4 GPU”
点击保存

5.2 验证 GPU

在笔记本单元格中运行：

!nvidia-smi

5.3 编写 CUDA 代码

# 写入 CUDA 代码
with open('hello.cu', 'w') as f:
    f.write('''
#include <stdio.h>
 
__global__ void hello() {
    printf("Hello from GPU thread %d\\n", threadIdx.x);
}
 
int main() {
    hello<<<1, 5>>>();
    cudaDeviceSynchronize();
    return 0;
}
''')
 
# 编译
!nvcc hello.cu -o hello
 
# 运行
!./hello

6. Docker 环境（可选）

6.1 安装 NVIDIA Docker

# 添加 NVIDIA Docker 仓库
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | \
    sudo tee /etc/apt/sources.list.d/nvidia-docker.list
 
# 安装
sudo apt-get update
sudo apt-get install -y nvidia-docker2
sudo systemctl restart docker

6.2 运行 CUDA 容器

# 拉取镜像
docker pull nvidia/cuda:12.0.0-devel-ubuntu22.04
 
# 运行容器
docker run --gpus all -it nvidia/cuda:12.0.0-devel-ubuntu22.04
 
# 验证
docker run --gpus all nvidia/cuda:12.0.0-base nvidia-smi

7. 常见问题

7.1 nvcc 找不到

问题： nvcc: command not found

解决：

# Linux
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
 
# Windows
# 添加到系统环境变量 Path：
# C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2\bin

7.2 驱动版本不兼容

问题： CUDA driver version is insufficient for CUDA runtime version

解决：

升级显卡驱动到最新版本
或降级 CUDA Toolkit 版本

7.3 找不到 GPU

问题： no CUDA-capable device is detected

排查：

# 检查驱动
nvidia-smi
 
# 检查设备权限
ls -l /dev/nvidia*
 
# 临时修复权限
sudo chmod 666 /dev/nvidia*

7.4 Windows 编译错误

问题： 找不到 cl.exe

解决：

安装 Visual Studio 的 C++ 组件
或从 VS 的 “x64 Native Tools Command Prompt” 运行 nvcc

8. 推荐配置

8.1 学习配置

组件	推荐
GPU	RTX 3060 或更高
CUDA	11.8 或 12.x
编辑器	VS Code + CUDA 扩展
系统	Ubuntu 22.04 或 Windows 11

8.2 专业开发配置

组件	推荐
GPU	RTX 4090 / A100
CUDA	12.2+
IDE	CLion 或 Visual Studio
调试	Nsight Compute / Nsight Systems
分析	Nsight Systems

9. 验证环境完整

运行以下命令检查环境：

# 1. 检查驱动和 GPU
nvidia-smi
 
# 2. 检查 CUDA 编译器
nvcc --version
 
# 3. 编译测试程序
cat > test.cu << 'EOF'
#include <stdio.h>
int main() {
    printf("CUDA 环境正常!\n");
    return 0;
}
EOF
nvcc test.cu -o test && ./test
 
# 4. 检查 CUDA 示例（如果安装了 samples）
cd /usr/local/cuda/samples/1_Utilities/deviceQuery
make
./deviceQuery

10. 下一步

环境配置完成后，开始学习：

第1章：基础概念 - 理解 GPU 和并行计算
第2章：CUDA 入门 - 编写第一个 CUDA 程序
第3章：GPU 硬件 - 理解硬件架构

遇到问题？

检查 NVIDIA 官方文档：https://docs.nvidia.com/cuda/
查看 CUDA 论坛：https://forums.developer.nvidia.com/
在 GitHub Issues 提问

Zhenwei Cao 的技术笔记

探索

环境配置指南

环境配置指南

本章定位

1. 硬件要求

1.1 检查 GPU

1.2 GPU 计算能力参考

2. 安装 CUDA Toolkit

2.1 下载 CUDA

2.2 Windows 安装

2.3 Linux 安装（Ubuntu）

2.4 配置环境变量

2.5 验证安装

3. 安装开发工具

3.1 Visual Studio（Windows 推荐）

3.2 VS Code（轻量级推荐）

3.3 CLion（JetBrains）

4. 第一个 CUDA 程序

4.1 创建文件

4.2 编译运行

4.3 预期输出

5. 使用 Google Colab（无 GPU 方案）

5.1 设置步骤

5.2 验证 GPU

5.3 编写 CUDA 代码

6. Docker 环境（可选）

6.1 安装 NVIDIA Docker

6.2 运行 CUDA 容器

7. 常见问题

7.1 nvcc 找不到

7.2 驱动版本不兼容

7.3 找不到 GPU

7.4 Windows 编译错误

8. 推荐配置

8.1 学习配置

8.2 专业开发配置

9. 验证环境完整

10. 下一步

关系图谱

目录

反向链接