WSL2安装配置NVIDIA Toolkit Driver、CUDA Toolkit、cuDNN和TensorRT

746 阅读1分钟

1. 安装NVIDIA Toolkit Driver

// unfilled 跳过即可

// 输入nvidia-smi验证驱动

2. 安装CUDA Toolkit

在NVIDIA官网(链接:CUDA Toolkit Archive)选择相应版本的CUDA Toolkit。

tmp9F58.png

tmp7D36.png

版本选择完成后,网页会自动提示安装命令,根据提示完成安装即可。例如:

wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-wsl-ubuntu.pin
sudo mv cuda-wsl-ubuntu.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.7.1/local_installers/cuda-repo-wsl-ubuntu-11-7-local_11.7.1-1_amd64.deb
sudo dpkg -i cuda-repo-wsl-ubuntu-11-7-local_11.7.1-1_amd64.deb
sudo cp /var/cuda-repo-wsl-ubuntu-11-7-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda

安装完成之后,配置CUDA Toolkit相关的环境变量,步骤如下:

sudo vi /home/{你的用户名}/.bashrc
// 在文本末尾添加以下内容
export CUDA_ROOT=/usr/local/cuda-11.7
export PATH=/usr/local/cuda-11.7/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.7/lib64:$LD_LIBRARY_PATH
// 命令行中更新bashrc文件
source /home/{你的用户名}/.bashrc

验证操作,步骤如下:

nvcc -V

正确输出编译器信息后说明安装成功,否则是安装失败或者环境变量配置失败。 nvcc通常位于/usr/local/cuda11.x中。

// Q:安装之后,/usr/local/cuda cuda-11 cuda-11.7为什么有3个?

// A:前两个是软连接。

3. 安装cuDNN

在NVIDIA官网(链接:cuDNN Download)下载对应版本cuDNN(根据cuda是11.x还是12.x区分)并在命令行中执行下列命令进行安装。

sudo dpkg -i cudnn-local-repo-${OS}-8.x.x.x_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-*/cudnn-local-*-keyring.gpg /usr/share/keyrings/  (根据上一行的提示进行输入)
sudo apt-get update
sudo apt-get install libcudnn8=8.x.x.x-1+cudaX.Y  

// 需要说明的是:libcudnn的cuDNN版本信息8.x.x.x-1根据下载的文件名字可以推出来,CUDA Toolkit的版本cudaX.Y既不是nvidia-smi显示的也不是你安装的CUDA Toolkit的版本。可以参考Support Matrix - NVIDIA Docs这个表,如果填写的版本不匹配的话,在安装时会有提示。

// cuDNN是必需的,否则tensorrt安装会出现unmet dependencies的错误。

4. 安装TensorRT

在NVIDIA官网(链接:NVIDIA TensorRT 8.x Download)点选同意协议之后选取相应版本的TensorRT进行安装(注意匹配已安装的CUDA Toolkit的版本和WSL2的版本)。

// 查看WSL2的Release版本
lsb_release -a

tmpE6CC.png

下载完成后,在命令行中执行下列命令安装TensoRT。

os="ubuntuxx04"
tag="8.x.x-cuda-x.x"
sudo dpkg -i nv-tensorrt-local-repo-${os}-${tag}_1.0-1_amd64.deb
sudo cp /var/nv-tensorrt-local-repo-${os}-${tag}/*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get install tensorrt

验证TensorRT的安装。

dpkg-query -W tensorrt

查看TensorRT的源码安装位置: /usr/src/

dpkg-query -S tensorrt

TensorRT通过deb安装后,库所在位置:/usr/lib/x86_64-linux-gnu