安装triton等的过程都是类似,先apt,再pip install
安装cuda runtime
我的jetson orin nano:jetpack6.2.1,Ubuntu 22.04,Python 3.10,cuda 12.6
安装CUDA 12.6对应runtime,装后刷新动态链接缓存。
sudo apt-get update
# 一次装齐常用CUDA库,避免逐个安装缺少的 .so
sudo apt-get install -y cuda-libraries-12-6
# 刷新动态链接缓存
sudo ldconfig
wget raw.githubusercontent.com/pytorch/pytorch/5c6af2b583709f6176898c017424dc9981023c28/.ci/docker/common/install_cusparselt.sh
export CUDA_VERSION=12.6 # as an example
bash ./install_cusparselt.sh
(可选)创建虚拟环境
可以创建虚拟环境,把某个项目的依赖放在一起,避免污染全局的python环境
# 安装 venv 支持(Ubuntu 22.04 / Python 3.10)
sudo apt-get update
sudo apt-get install -y python3.10-venv python3-pip python3-dev build-essential
# 进入项目目录(按你的路径)
cd /your/path
# 创建虚拟环境并确认
python3 -m venv .venv
.venv/bin/python --version
.venv/bin/pip install --upgrade pip
# 若之前创建失败,先删掉半成品再建
rm -rf .venv
安装pytorch
进入pypi.jetson-ai-lab.io/jp6/cu126,找到pytorch的.whl文件,下载这个文件
之后把这个.whl文件移动到jetson orin nano上,执行
# 从本地whl文件安装python包,注意仍有些依赖会从网络上下载
pip install torch-2.11.0-cp310-cp310-linux_aarch64.whl
检查
执行如下命令,检查pytorch安装结果
python3 -c "import torch; print(torch.cuda.device_count())"
参考
forums.developer.nvidia.com/t/install-p…
forums.developer.nvidia.com/t/pytorch-2…