环境:Win10家庭版
Python 3.6.4
Anaconda3
Tensorflow-gpu 1.14.0
TensorRT 6.0.1.5
CUDA 10.0
CUDNN 7.6.0
据官方文档windows平台暂不支持python API。
TensorRT 6.0.1.5需tensorflow 1.14.0(如果使用uff则需安装tensorflow),CUDA9.0, 10.0,10.1 update 2。
Anaconda3、CUDA、CUDNN,tensorflow的安装这里就不赘述了。
一、下载TensorRT
到官网https://developer.nvidia.com/tensorrt下载对应版本的TensorRT,需要注册账号并且做一个问卷调查方可下载。
下载之后解压zip文件。
二、添加环境变量
将xxx\TensorRT-6.0.1.5\lib加入系统环境变量。
三、安装uff和graphsurgeon
在TensorRT-6.0.1.5根目录下有uff和graphsurgeon两个文件夹,里面分别有.whl安装文件。
激活安装了tensorflow-gpu 1.14.0的conda虚拟环境。
python3 -m pip install xxx\TensorRT-6.0.1.5\uff\uff-0.6.5-py2.py3-none-any.whl
python3 -m pip install xxx\TensorRT-6.0.1.5\graphsurgeon\graphsurgeon-0.4.1-py2.py3-none-any.whl
四、测试
打开TensorRT-6.0.1.5\samples\sampleMNIST下的sample_mnist.sln生成。
在TensorRT-6.0.1.5\bin下运行生成的sample_mnist.exe。
说明环境已配置好。