1. 环境准备与系统要求

在开始安装GPU驱动和CUDA工具包之前，需要确保系统满足以下基本要求：

1.1 硬件要求

• GPU兼容性：NVIDIA GPU计算能力3.5及以上
• 系统内存：至少8GB RAM
• 存储空间：至少10GB可用磁盘空间
• PCIe插槽：x16 PCI Express插槽

1.2 软件要求

# 检查Linux内核版本
uname -r
# 检查GCC版本
gcc --version
# 检查系统架构
arch

1.3 依赖包安装

# Ubuntu/Debian系统
sudo apt update
sudo apt install build-essential dkms linux-headers-$(uname -r)

# CentOS/RHEL系统
sudo yum groupinstall "Development Tools"
sudo yum install kernel-devel-$(uname -r) kernel-headers-$(uname -r)

2. GPU驱动安装

2.1 驱动安装方法比较

安装方法	优点	缺点	适用场景
系统包管理器	自动依赖处理，易于更新	版本可能较旧	新手用户，生产环境
官方.run文件	最新版本，完整功能	需要手动处理依赖	开发环境，需要特定版本
CUDA捆绑安装	驱动与工具包版本匹配	可能包含不需要的组件	CUDA开发环境

2.2 使用系统包管理器安装

Ubuntu/Debian:

# 添加官方PPA仓库
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt update

# 查找推荐的驱动版本
ubuntu-drivers devices

# 安装推荐驱动
sudo ubuntu-drivers autoinstall

# 或安装特定版本
sudo apt install nvidia-driver-525

CentOS/RHEL:

# 添加ELRepo仓库
sudo rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org
sudo rpm -Uvh https://www.elrepo.org/elrepo-release-8.el8.elrepo.noarch.rpm

# 安装驱动
sudo yum install nvidia-detect
nvidia-detect
sudo yum install kmod-nvidia

2.3 使用官方安装程序

# 下载官方驱动（以535.104.05为例）
wget https://us.download.nvidia.com/XFree86/Linux-x86_64/535.104.05/NVIDIA-Linux-x86_64-535.104.05.run

# 赋予执行权限
chmod +x NVIDIA-Linux-x86_64-535.104.05.run

# 停止显示管理器
sudo systemctl stop gdm

# 安装驱动
sudo ./NVIDIA-Linux-x86_64-535.104.05.run

2.4 驱动安装验证

# 检查驱动版本
nvidia-smi

# 检查GPU信息
nvidia-smi --query-gpu=index,name,driver_version,memory.total --format=csv

# 查看详细GPU状态
nvidia-smi -q

预期输出示例：

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 535.104.05   Driver Version: 535.104.05   CUDA Version: 12.2    |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  NVIDIA GeForce ...  Off  | 00000000:01:00.0 Off |                  N/A |
| 30%   45C    P8    15W / 180W |      0MiB / 8192MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

3. CUDA工具包安装

3.1 CUDA版本选择指南

CUDA版本	支持的计算能力	推荐GPU架构	主要特性
CUDA 12.x	3.5-9.0	Ampere, Ada Lovelace	最新特性，最佳性能
CUDA 11.x	3.5-8.6	Turing, Ampere	稳定版本，广泛支持
CUDA 10.x	3.5-7.5	Volta, Turing	旧项目兼容

3.2 CUDA安装流程

3.3 安装步骤详解

步骤1：下载CUDA工具包

# 访问NVIDIA官网下载或使用wget
wget https://developer.download.nvidia.com/compute/cuda/12.2.0/local_installers/cuda_12.2.0_535.54.03_linux.run

步骤2：运行安装程序

# 赋予执行权限
chmod +x cuda_12.2.0_535.54.03_linux.run

# 运行安装程序（不安装驱动，如果已安装）
sudo sh cuda_12.2.0_535.54.03_linux.run --toolkit --silent --override

安装选项说明：

• --toolkit: 仅安装CUDA工具包
• --silent: 静默安装
• --override: 覆盖现有安装
• --driver: 安装驱动（一般不选）

步骤3：配置环境变量

# 编辑bash配置文件
echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
echo 'export CUDA_HOME=/usr/local/cuda' >> ~/.bashrc

# 重新加载配置
source ~/.bashrc

步骤4：验证CUDA安装

# 检查CUDA编译器
nvcc --version

# 编译并运行示例程序
cd /usr/local/cuda/samples/1_Utilities/deviceQuery
sudo make
./deviceQuery

3.4 CUDA多版本管理

# 查看已安装的CUDA版本
ls /usr/local/ | grep cuda

# 切换CUDA版本
sudo rm -f /usr/local/cuda
sudo ln -s /usr/local/cuda-12.2 /usr/local/cuda

# 使用update-alternatives管理（Ubuntu）
sudo update-alternatives --install /usr/local/cuda cuda /usr/local/cuda-12.2 100
sudo update-alternatives --install /usr/local/cuda cuda /usr/local/cuda-11.8 50
sudo update-alternatives --config cuda

4. cuDNN安装与配置

4.1 cuDNN安装步骤

# 下载cuDNN库（需要NVIDIA开发者账号）
# 假设已下载cudnn-linux-x86_64-8.9.4.25_cuda12-archive.tar.xz

# 解压文件
tar -xvf cudnn-linux-x86_64-8.9.4.25_cuda12-archive.tar.xz

# 复制文件到CUDA目录
sudo cp cudnn-*/include/cudnn*.h /usr/local/cuda/include
sudo cp -P cudnn-*/lib/libcudnn* /usr/local/cuda/lib64

# 设置文件权限
sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

4.2 验证cuDNN安装

// 创建测试文件test_cudnn.cu
#include <cudnn.h>
#include <iostream>

int main() {
    cudnnHandle_t handle;
    cudnnStatus_t status = cudnnCreate(&handle);
    
    if (status == CUDNN_STATUS_SUCCESS) {
        std::cout << "cuDNN初始化成功！版本: " << CUDNN_VERSION << std::endl;
        cudnnDestroy(handle);
        return 0;
    } else {
        std::cout << "cuDNN初始化失败！" << std::endl;
        return -1;
    }
}

编译和运行：

nvcc -o test_cudnn test_cudnn.cu -lcudnn
./test_cudnn

5. 深度学习框架配置

5.1 PyTorch GPU支持

import torch
import torchvision

def check_pytorch_gpu():
    print(f"PyTorch版本: {torch.__version__}")
    print(f"CUDA可用: {torch.cuda.is_available()}")
    print(f"CUDA版本: {torch.version.cuda}")
    print(f"GPU数量: {torch.cuda.device_count()}")
    
    if torch.cuda.is_available():
        for i in range(torch.cuda.device_count()):
            print(f"GPU {i}: {torch.cuda.get_device_name(i)}")
            print(f"  内存: {torch.cuda.get_device_properties(i).total_memory / 1024**3:.1f} GB")

if __name__ == "__main__":
    check_pytorch_gpu()

5.2 TensorFlow GPU配置

import tensorflow as tf

def check_tensorflow_gpu():
    print(f"TensorFlow版本: {tf.__version__}")
    print(f"GPU可用: {tf.test.is_gpu_available()}")
    print(f"GPU设备列表: {tf.config.list_physical_devices('GPU')}")
    
    # 显示GPU详细信息
    if tf.test.is_gpu_available():
        gpus = tf.config.experimental.list_physical_devices('GPU')
        for gpu in gpus:
            print(f"GPU名称: {gpu.name}")
            print(f"设备类型: {gpu.device_type}")

if __name__ == "__main__":
    check_tensorflow_gpu()

6. 性能优化与故障排除

6.1 性能优化设置

# 设置GPU性能模式
sudo nvidia-smi -pm 1
sudo nvidia-smi -pl 180  # 设置功率限制（根据显卡调整）

# 启用持久化模式
sudo nvidia-smi -pm 1

# 查看GPU时钟状态
nvidia-smi -q -d CLOCK

6.2 常见问题排查

问题1：驱动加载失败

# 检查驱动状态
dmesg | grep nvidia
lsmod | grep nvidia

# 重新生成initramfs
sudo update-initramfs -u

问题2：CUDA程序编译错误

# 检查CUDA环境
echo $CUDA_HOME
echo $LD_LIBRARY_PATH

# 验证nvcc路径
which nvcc

问题3：GPU内存不足

import torch

# 设置GPU内存增长
torch.cuda.set_per_process_memory_fraction(0.8)  # 使用80%的GPU内存

# 清空GPU缓存
torch.cuda.empty_cache()

6.3 监控工具使用

# 实时监控GPU状态
watch -n 1 nvidia-smi

# 使用gpustat工具
pip install gpustat
gpustat -i 1

# 监控温度
nvidia-smi --query-gpu=temperature.gpu --format=csv,noheader

7. 容器化部署

7.1 Docker GPU支持

# Dockerfile示例
FROM nvidia/cuda:12.2.0-runtime-ubuntu20.04

# 安装Python和深度学习框架
RUN apt-get update && apt-get install -y python3-pip
RUN pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
RUN pip3 install tensorflow[and-cuda]

# 设置工作目录
WORKDIR /app
COPY . .

CMD ["python3", "app.py"]

运行命令：

docker run --gpus all -it my-gpu-app

总结

本文详细介绍了GPU驱动和CUDA工具包的完整安装配置流程。通过遵循这些步骤，用户可以成功搭建GPU计算环境，为深度学习、科学计算等GPU加速应用提供坚实的基础。建议定期检查驱动和CUDA更新，以获取更好的性能和安全性。