TensorRT for a simple segmentation model
使用VOC Person Part 训练LW Refinenet ——resnet50 作为神经网络,生成onnx模型并导入c++中实现在window上的实时语义分割。
源码和具体使用方法详见我的github。
下载Resnet50 精度为64.1mIOU的onnx模型:百度云 密码:kx0j
效果
实验GPU:gtx1060 输入图像:512*512
模型 | 速度 |
---|---|
pytorch源码 | 11FPS |
FP32 | 21FPS |
INT8 | 32FPS |
可见,单单使用tensorRT作为推理模型就要比python快上许多。