转载链接：https://blog.csdn.net/qq_35887587/article/details/122988752

1.安装nvidia-container-runtime

yum install nvidia-container-runtime

2.检查可用

docker run -it --rm --gpus all ubuntu nvidia-smi

查看结果是否如下

如果遇到下面的错误

docker: Error response from daemon: linux runtime spec devices: could not select device driver “” with capabilities: [[gpu]].

可能是你已经安装了docker，需要修改配置、重启docker，步骤如下
（1）修改/etc/docker/daemon.json里的内容（主要是增加runtimes）：

{
	"registry-mirrors"：["https://f1z25q5p.mirror.aliyuncs.com"], 
	"runtimes": {
		"nvidia": {
			"path": "nvidia-container-runtime",
			"runtimeArgs": []
		}
	}
}

（2）重启docker

sudo systemctl daemon-reload sudo systemctl restart docker

继续验证

docker run -it --rm --gpus all ubuntu nvidia-smi -L

docker run -it --rm --gpus all ubuntu nvidia-smi  --query-gpu=index,name,uuid,serial --format=csv

已经验证完成，可以使用了