语音算法CPU资源占用率评估方式

语音算法CPU资源占用率评估方式

1.直观CPU 对比测试

CPU占用率会影响RTF的测试”,“RTF会受到所分配算力的影响”,“单独测算法的RTF和在一个系统中测算法的RTF不同,因为占用的CPU算力不同”。

CPU占用率,算法处理所需时长除以CPU总时长。

cpu最小计算时间为时钟周期,cycle。1秒内cpu拥有的时钟周期总数对应着cpu的主频。例如,2GHz主频的cpu共有2G个时钟周期,即计算周期,每个时钟周期为1/2G 秒。故,CPU占用率的计算为:在一段时间内,程序(算法)使用的cycle总数除以这段时间内cpu的cycle总数。公式如下:

2.理解RTF和RTX指标

RTF(real_time_factor实时率,在线识别指标)
RTX(real_time_x实时效率,离线转写指标)

R T F = A S R 识 别 所 有 音 频 处 理 时 间 ( 单 位 秒 ) 所 有 音 频 总 时 间 ( 单 位 秒 ) RTF=\frac{ASR识别所有音频处理时间 (单位秒)}{所有音频总时间 (单位秒)}
RTF=
所有音频总时间(单位秒)
ASR识别所有音频处理时间(单位秒)

【意义】:平均1秒时长音频给ASR算法需要多少秒处理,小于1才能达到实时效果。越小越好,正常0.2-0.3
      该指标针对的是在线ASR识别指标

该式描述的是算法处理数据的快慢。

3。CPU和RTF之间存在比例关系。

不存在算法的单独测试得到的RTF和在一个系统中测算法的RTF会有所不同的情况。推理如下

a、CPU占用率

CPU占用率,算法处理所需时长除以CPU总时长。

cpu最小计算时间为时钟周期,cycle。1秒内cpu拥有的时钟周期总数对应着cpu的主频。例如,2GHz主频的cpu共有2G个时钟周期,即计算周期,每个时钟周期为1/2G 秒。故,CPU占用率的计算为:在一段时间内,程序(算法)使用的cycle总数除以这段时间内cpu的cycle总数。公式如下:

b、两者的关系

RTF的分子和CPU占用率的分子有着相同的物理意义,指算法处理所需的时间:

1、RTF的分子是算法处理所需的时间;

2、CPU占用率的分子是算法处理所需的时钟周期数,由于每个时钟周期时长等于1/f,其中f为cpu主频,所以时钟周期数乘以时钟周期时间等于算法处理所需的时间。

RTF和CPU使用率,两者公式分子描述的物理意义是相同的:均指处理算法所需的时间。

而在实时处理中,RTF和CPU使用率分母间也有着相似的物理意义。

所以在实时处理中,RTF和CPU使用率是相等的关系。

故此,对于一个实时处理算法,不存在模块级测试与系统级测试的CPU使用率不同,导致计算出的RTF不同。

猜你喜欢

转载自blog.csdn.net/xushx_bigbear/article/details/131110487
今日推荐