centos7 安装TensorRT

参考博客:centos7 安装TensorRT
注意:
a、主要两个文件:TensorRT、pycuda包文件。
b、tensorRT需要到官网下载后解压到固定的系统文件夹下即可。pycuda则是直接使用pip安装即可。
c、加速流程:pytorch模型转换成onnx,使用自身的onnx模块即可;然后通过onnx转换成tensorrt的模型格式,大概后缀为.engine;最后就可以通过调用这个engine进行相应的加速使用。

1.安装cuda、cudnn
问题:
patchlevel.h没有那个文件
将python-devel 改为python3-devel

2.安装tensorRT
tensorRT安装官网
tensorrt
tensorrt 下载 --百度盘
tensorRT sample
TensorRT API 使用

3.安装pycuda
pycuda安装官网
或者pip3 install pycuda

将lib复制到/usr/lib64/中,sudo cp TensorRT-5.XXX/targets/x86_64-linux-gnu/lib/lib* /usr/lib64/

4、使用TensorRT加速Pytorch模型(简单实用)

猜你喜欢

转载自blog.csdn.net/yangdashi888/article/details/114835122