(官方教程笔记)TensorRT 教程 | 基于 8.2.3 版本 | 第四部分

教程地址:TensorRT 教程 | 基于 8.2.3 版本 | 第四部分

TenorRT 的高级话题

在这里插入图片描述

希望解决的问题

在这里插入图片描述

1 多 OptimizationProfile

解决问题:

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2 多Stream

在这里插入图片描述

解决问题:

在这里插入图片描述
在这里插入图片描述

耗时最大的(H to D 和 D to H)模型

在这里插入图片描述

3 多Context

在这里插入图片描述

解决问题:

在这里插入图片描述

4 CUDA Graph

在这里插入图片描述

解决问题:

在这里插入图片描述

5 Timing Cache

在这里插入图片描述

解决问题:

在这里插入图片描述
![在这里插入图片描述](https://img-blog.csdnimg.cn/dac7cd5bd26b44b3b96a2959e2e85ad1.png

6 Algorithm Selector

在这里插入图片描述

解决问题:

在这里插入图片描述

  • 一个完整的算法选择器的代码:
    在这里插入图片描述
    运行得到的输出:
    在这里插入图片描述

7 Refit

解决问题:

在这里插入图片描述

介绍:

在这里插入图片描述

7 Tactic Source

解决问题:

在这里插入图片描述

介绍

其他

在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/qq_22487889/article/details/128778174
今日推荐