Tensorrt笔记

1、使用 tensorrt测试

1、把模型导出成 ONNX 格式。
2、安装 TensorRT 和 CUDA。注意二者和 driver 的版本号对应,我用的是 ZIP 安装:Installation Guide :: NVIDIA Deep Learning TensorRT Documentation,跟着这个把流程走一遍。
3、设置优化参数,使用 TensorRT

猜你喜欢

转载自blog.csdn.net/juluwangriyue/article/details/125343973