Ubuntu安装TensorRT

671 阅读1分钟

Ubuntu安装TensorRT

前言

本文为《CUDA与TensorRT部署学习笔记》系列中环境配置篇。从版本选择、下载安装、环境配置、安装结果验证几个方面对TensorRT安装进行记录。

1 安装说明

安装前确定自己需要的版本和cuda支持的版本~!具体方式详见前文《Ubuntu安装cuda》篇。

2 安装流程

2.1 登录官网、选择版本、下载

官方下载地址:developer.nvidia.com/tensorrt-do…

具体如图:

image

这边根据要求选择了如图的版本:
image

2.2 解压

将下载好的文件包解压到指定入径,并进行解压缩。(路径按自己的位置设定就好)

2.3 配置环境变量

在bashrc文件添加TensorRT下的bin和lib的路径,让系统能够识别到命令

export PATH=$PATH:/root/package/TensorRT-8.5.1.7/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/root/package/TensorRT-8.5.1.7/lib

然后执行 trtexec 来测试看下 ,如果正确安装会显示:

image

2.4 执行示例测试

cd /root/package/TensorRT-8.5.1.7/samples/sampleOnnxMNIST
make -j16  #编译
#结果在
Linking: ../../bin/sample_onnx_mnist
Linking: ../../bin/sample_onnx_mnist_debug
# 进入到这个文件夹
cd /root/package/TensorRT-8.5.1.7/bin
#执行
./sample_onnx_mnist

结果如下:

image