参考博客：
https://blog.csdn.net/tangjiahao10/article/details/125227005?spm=1001.2014.3001.5501

https://www.cnblogs.com/smileglaze/p/16826946.html

现有环境：
nvidia-smi --> driver cuda 12.2

nvcc -V --> runtime cuda 12.1

1 下载cuDNN

cuda和cudnn版本对应表
（点击即可下载对应版本的cudnn）
我的 nvcc -V 的cuda 是 12.1，根据对应版本关系，我下载了cuDNN 8.9.4

2 安装cuDNN

tar -xvf cudnn-linux-x86_64-8.9.4.25_cuda12-archive.tar.xz
cd cudnn-linux-x86_64-8.9.4.25_cuda12-archive/

sudo cp lib/* /usr/local/cuda-12.1/lib64/
sudo cp include/* /usr/local/cuda-11.3/include/
sudo chmod a+r /usr/local/cuda-12.1/lib64/*
sudo chmod a+r /usr/local/cuda-12.1/include/*

不出意外的话，cudnn的包就被安装到了cuda12.1中，即下图的文件夹中

为什么还有个cuda 12.2 ？

我确实装了两个版本的cuda，并且可以自由切换cuda版本

为什么有两个 cuda 和 cuda-12 软链接？

没什么用，不用管。下面的cuda-12.1和cuda-12.2才是本体。并且 cuda 和 cuda-12 这两个软链接就是连接的这两个本地的其中一个。

3 验证cuDNN

cat /usr/local/cuda-12.1/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

or
（需保证cuda软链接链接到 cuda-12.1文件夹）

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

出现以下画面，即算成功

为什么有些博客的命令是

cat /usr/local/cuda-12.1/include/cudnn.h | grep CUDNN_MAJOR -A 2

这是老版本cudnn的命令了，请使用我给的命令（本博客写作日期2023.10.16）