下载TensorRT
根据自己的CUDA版本下载对应的TensorRT压缩包,我使用的NVIDIA GeForce 3090,CUDA11.1,使用nvcc -V
查看CUDA版本
(base) C:\Users\Administrator>nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2020 NVIDIA Corporation
Built on Mon_Oct_12_20:54:10_Pacific_Daylight_Time_2020
Cuda compilation tools, release 11.1, V11.1.105
Build cuda_11.1.relgpu_drvr455TC455_06.29190527_0
进入Nvidia官网下载对应的TensorRT版本,如下图所示:
解压缩
进入TensorRT中的bin文件夹,在cmd中运行sample_mnist.exe,出现如下所示则安装成功