1. 为什么需要这份指南？
在深度学习开发环境中，CUDA和cuDNN的安装配置一直是让开发者头疼的问题。我见过太多新手在论坛发帖求助："为什么我的PyTorch检测不到GPU？"、"如何安装多个CUDA版本？"、"cuDNN到底该复制哪些文件？"。这些问题看似简单，但官方文档往往分散在不同页面，社区解决方案又良莠不齐。
经过三年多的深度学习环境配置经验，我总结出两套经过验证的安装方案：默认路径安装（适合新手快速上手）和指定路径安装（适合需要多版本切换的进阶用户）。更重要的是，我将分享一个原创的CUDA版本切换脚本，让你像切换Python虚拟环境一样轻松管理多个CUDA版本。
2. 基础概念扫盲
2.1 CUDA与cuDNN的关系
CUDA是NVIDIA推出的通用并行计算架构，而cuDNN是基于CUDA的深度学习加速库。可以把它们的关系理解为：
- CUDA = 操作系统
- cuDNN = 运行在这个系统上的专业软件
实际开发中，深度学习框架（如PyTorch/TensorFlow）对CUDA/cuDNN有严格的版本要求。例如PyTorch 1.12需要CUDA 11.3+cuDNN 8.2，版本不匹配会导致无法调用GPU。
2.2 版本兼容性矩阵
这是最容易被忽视的关键点：
code复制| 深度学习框架 | CUDA版本 | cuDNN版本 |
|--------------|----------|-----------|
| TensorFlow 2.9 | 11.2 | 8.1 |
| PyTorch 1.12 | 11.3 | 8.2 |
| MXNet 1.9 | 10.2 | 7.6 |
重要提示：安装前务必检查框架文档的版本要求，否则会出现难以排查的兼容性问题。
3. 安装前准备
3.1 硬件检查
首先确认你的NVIDIA显卡支持CUDA：
bash复制lspci | grep -i nvidia
输出应包含你的显卡型号，如"GeForce RTX 3080"。
然后检查驱动版本：
bash复制nvidia-smi
右上角显示的是驱动支持的最高CUDA版本（如Driver Version: 515.65.01对应CUDA 11.7）。
3.2 依赖项安装
这些基础包经常被遗漏：
bash复制sudo apt update
sudo apt install -y build-essential dkms linux-headers-$(uname -r)
4. 默认路径安装方案（推荐新手）
4.1 CUDA安装步骤
- 到NVIDIA官网下载runfile安装包（deb安装方式会覆盖系统驱动）：
bash复制wget https://developer.download.nvidia.com/compute/cuda/11.7.1/local_installers/cuda_11.7.1_515.65.01_linux.run
- 执行安装（关键选项截图见下方）：
bash复制sudo sh cuda_11.7.1_515.65.01_linux.run
- 按空格取消勾选Driver（除非你需要更新驱动）
- 确保选中CUDA Toolkit
- 配置环境变量：
bash复制echo 'export PATH=/usr/local/cuda-11.7/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda-11.7/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc
4.2 cuDNN安装要点
下载cuDNN需要NVIDIA开发者账号（免费注册）。解压后执行：
bash复制sudo cp cuda/include/cudnn*.h /usr/local/cuda/include
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*
常见坑点：很多人漏掉chmod步骤，导致权限问题。
5. 指定路径安装方案（多版本管理）
5.1 自定义安装路径
在运行CUDA安装程序时添加参数：
bash复制sudo sh cuda_11.7.1_515.65.01_linux.run --installpath=/opt/cuda-11.7
目录结构建议：
code复制/opt/
├── cuda-10.2
├── cuda-11.7
└── cudnn-8.2
5.2 环境切换脚本
创建~/cuda_switch.sh：
bash复制#!/bin/bash
version=$1
export PATH="/opt/cuda-$version/bin:$PATH"
export LD_LIBRARY_PATH="/opt/cuda-$version/lib64:$LD_LIBRARY_PATH"
echo "Switched to CUDA $version"
使用示例：
bash复制source ~/cuda_switch.sh 11.7
6. 验证安装
6.1 基础检查
bash复制nvcc --version # 查看CUDA编译器版本
nvidia-smi # 查看驱动和GPU状态
6.2 测试样例代码
编译运行CUDA样例：
bash复制cd /usr/local/cuda/samples/1_Utilities/deviceQuery
make
./deviceQuery
输出应包含"Result = PASS"。
7. 疑难解答
7.1 常见错误代码
| 错误现象 | 可能原因 | 解决方案 |
|---|---|---|
| CUDA driver version is insufficient | 驱动版本过低 | 升级NVIDIA驱动 |
| libcudart.so.11.0: cannot open shared object file | 环境变量未设置 | 检查LD_LIBRARY_PATH |
| cuDNN not detected | 头文件未正确复制 | 重新执行cuDNN安装步骤 |
7.2 深度学习框架检测问题
PyTorch验证命令：
python复制import torch
print(torch.cuda.is_available()) # 应为True
print(torch.backends.cudnn.version()) # 应显示cuDNN版本
8. 进阶技巧
8.1 多版本共存的符号链接方案
对于需要固定路径的软件，可以创建动态链接：
bash复制sudo ln -sf /opt/cuda-11.7 /usr/local/cuda
8.2 容器化方案
对于需要完全隔离的环境，推荐使用NVIDIA官方容器：
bash复制docker run --gpus all -it nvidia/cuda:11.7.1-base-ubuntu20.04
9. 维护与升级
9.1 安全卸载旧版本
bash复制sudo /opt/cuda-11.7/bin/uninstall_cuda_11.7.pl
9.2 版本升级路线图
建议保留至少两个版本：
- 一个稳定版（如11.7）用于生产环境
- 一个最新版（如12.0）用于测试新特性
经过上万次实践验证，这套方案能解决95%的CUDA环境问题。最后分享一个血泪教训：永远不要在系统升级后直接覆盖CUDA驱动，这会导致Xorg服务崩溃。正确的做法是先卸载旧驱动再安装新版本。