ubuntu nvcc 升级到13.1

4 阅读2分钟

由于你的系统显示驱动版本已经支持 CUDA 13.1nvidia-smi 输出结果),你只需要升级 CUDA Toolkit(即编译器 nvcc 所在的软件包)。

在 Ubuntu 系统上,最稳妥的方法是使用 NVIDIA 官方的存储库。以下是针对你 RTX 5070 Ti 环境的升级步骤:


1. 卸载旧版本(可选但推荐)

为了避免 /usr/bin/nvcc 软链接冲突,建议先清理旧的开发包(这不会卸载你的驱动):

Bash

sudo apt-get remove --purge "cuda-*" "libnvcc*"
sudo apt-get autoremove

2. 安装最新的 CUDA Toolkit (13.1)

你可以直接通过 NVIDIA 的网络源安装,这样以后可以通过 apt upgrade 自动更新。

Bash

# 1. 下载并安装 NVIDIA 存储库密钥及配置
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb

# 2. 更新索引
sudo apt-get update

# 3. 安装特定版本的 toolkit
# 注意:这里安装的是 cuda-toolkit,不含驱动,避免破坏你已有的 591.86 驱动
sudo apt-get install -y cuda-toolkit-13-1

(注:如果你使用的是 Ubuntu 22.04,请将链接中的 ubuntu2404 替换为 ubuntu2204)


3. 更新环境变量

安装完成后,nvcc 通常位于 /usr/local/cuda-13.1/bin。你需要将其添加到你的 .bashrc 中:

Bash

# 将以下内容添加到 ~/.bashrc 末尾
export PATH=/usr/local/cuda-13.1/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-13.1/lib64:$LD_LIBRARY_PATH

# 刷新配置
source ~/.bashrc

4. 验证升级结果

执行以下命令确认版本:

Bash

nvcc --version

如果输出显示 release 13.1,说明升级成功。


5. 再次尝试编译 MiniCPM-o

现在你可以回到 llama.cpp-omni/build 目录,重新执行针对 Blackwell (sm_100) 架构的编译:

Bash

cd ~/MiniCPM-V-CookBook/demo/web_demo/WebRTC_Demo/llama.cpp-omni/build
rm -rf *
cmake .. -DCMAKE_BUILD_TYPE=Release \
         -DGGML_CUDA=ON \
         -DCMAKE_CUDA_ARCHITECTURES=100 \
         -DLLAMA_CURL=ON
make -j8

为什么选择 13.1 而不是 12.8?

虽然 CUDA 12.8 已经开始支持 sm_100,但作为 5070 Ti 用户,使用 13.1 能获得针对 Blackwell 架构最成熟的编译器优化(如更高效的 FP8 和 Tensor Core 调度),这对运行 MiniCPM-o 这种多模态大模型的性能提升非常明显。