本文主要介绍为Ubuntu安装Nvidia cuDNN v9.1.1 for CUDA 12.x，演示的环境的硬件为AWS EC2 g4dn机型，它搭载了一颗服务器专用的T4 Tensor Core GPU，这台服务器运行Ubuntu Server 22.04 LTS。
NVIDIA CUDA深度神经网络库 (cuDNN) 是一个 GPU 加速的深度神经网络基元库,全球的深度学习研究人员和框架开发者都依赖 cuDNN 来实现高性能 GPU 加速。借助cuDNN，研究人员和开发者可以专注于训练神经网络及开发软件应用，而不必花时间进行低层级的 GPU 性能调整。cuDNN可加速广泛应用的深度学习框架，包括 Caffe2、Chainer、Keras、MATLAB、MxNet、PaddlePaddle、PyTorch 和 TensorFlow。
安装cuDNN
安装cuDNN v9.1.1 for CUDA 12.x
我们可以参考Installing cuDNN on Linux进行安装，我们可以从cudnn下载
我的系统是Ubuntu 22.04 LTS X64版本，所以我选择Local Installer for Ubuntu22.04 x86_64 (Deb)。
依次执行，安装cudnn v9.1.1
Installation Instructions:
wget https://developer.download.nvidia.com/compute/cudnn/9.1.1/local_installers/cudnn-local-repo-ubuntu2204-9.1.1_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2204-9.1.1_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-ubuntu2204-9.1.1/cudnn-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudnn
# To install for CUDA 12, perform the above configuration but install the CUDA 12 specific package:
sudo apt-get -y install cudnn-cuda-12
依次执行，安装libcudnn9-samples
sudo apt install libcudnn9-samples -y
校验
编译mnistCUDNN
cp -r /usr/src/cudnn_samples_v9/ $HOME
cd $HOME/cudnn_samples_v9/mnistCUDNN
make clean && make
# 如果有类似`FreeImage.h`的报错就可以安装完下面的包后，继续上一步
sudo apt-get install libfreeimage3 libfreeimage-dev
执行检测，看到pass表示测试通过
# 在/home/your-user/cudnn_samples_v9/mnistCUDNN中执行./mnistCUDNN进行测试
./mnistCUDNN
