ubuntu 24.04 安装NVIDIA Container Toolkit 在docker容器中调用GPU

第一步：添加 NVIDIA 官方仓库

# 1. 下载并添加 GPG 密钥
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg

# 2. 添加软件源列表
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
  sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
  sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

# 3. 更新软件包列表
sudo apt-get update

第二步：安装 Toolkit

sudo apt-get install -y nvidia-container-toolkit

第三步：配置 Docker 运行时

# 1. 自动配置 Docker 运行时
sudo nvidia-ctk runtime configure --runtime=docker

# 2. 重启 Docker 服务以生效
sudo systemctl restart docker

第四步：验证安装

sudo docker run --rm --gpus all nvidia/cuda:12.6.0-base-ubuntu24.04 nvidia-smi

成功标志：如果你在终端里看到了和宿主机一样的显卡表格信息，说明安装成功！