玩转NVIDIA Jetson (28)--- jetson clocks对tensorRT推理速度的影响

背景

jetson clocks的使用在之前文章中专门提过,这次是在使用tensorRT加速CNN的时候偶然发现了他的一些影响,记录下来,希望对其他人有所帮助。

过程

使用resnet18训练了一个CNN网络,放到jetson nano上进行推理的时候,发现前几组推理耗时比较久,五次大概是50ms 40ms 30ms 20ms这种递减的情况,随后进入了一个比较稳定的阶段,稳定在20ms左右的推理速度。当然,解决这个问题可以跳过前几次推理,但是强迫症犯了,总觉得不行。通过这个现象感觉是计算资源有一个预热的过程,没有从一开始就飚起来,所以尝试了使用jetson clocks,结果确实有用。

命令

sudo jetson_clocks

结果

可以看到,除了第一次耗时之外,后边的计算耗时就很稳定了,也解决了我的应用问题。 

猜你喜欢

转载自blog.csdn.net/huiyuanliyan/article/details/129041177
今日推荐