标量无偏估计无参数变换和有参数变换下的CRLB

目录

1. 标量无偏估计无参数变换时的CRLB定理

2. 标量无偏估计有参数变换时的CRLB定理

3. 标量无偏估计有参数变换时的CRLB证明

3. 参数变化后CRLB的具体应用案例与讨论

3.1 用于直接得到参数无变换时的CRLB公式

3.1.1  例子

3.2 参数线性变换后的CRLB

3.2.1 例子

3.3  参数非线性变换后的CRLB

 3.3.1 例子


1. 标量无偏估计无参数变换时的CRLB定理

如果要从采集到的一组观测量数据:

并利用概率密度函数(此时该函数被称为似然函数)去估计未知参数。如果满足正则条件,即:

 那么对于参数的任意无偏估计的方差,满足:

 其中:


2. 标量无偏估计有参数变换时的CRLB定理

如果要从采集到的一组观测量数据:

 并利用估计未知参数,且满足正则条件,此时对于参数的任意无偏估计的方差,满足CRLB定理,即:

 那么参数经过函数变化后的参数的任意无偏估计的方差满足:

 其中:


3. 标量无偏估计有参数变换时的CRLB证明

首先由于是无偏估计,因此存在:

将上式对进行一阶偏导,可以得到:

除了PDF非零域与未知参数有关,那么一般可以对上式中的导数与积分互换。可以得到:

 而中应该只包含采集数据信息,而不包含未知参数,因此可以得到:

 利用对数函数求导的性质,即:

 上式转换为:

 而由正则条件可以得到:

 那么两边都乘系数,得到:

 因此,两式相减之后可以得到:

为了能够利用Cauchy-Schwarz不等式,即:

且由于概率密度都大于等于0,因此将上式可以拆分为: 

 那么利用Cauchy-Schwarz不等式可以得到:

 其中:

因此最终可以得到:

证明完毕。 


3. 参数变化后CRLB的具体应用案例与讨论

3.1 用于直接得到参数无变换时的CRLB公式

作为一种简化的参数变化形式,即:

 此时就是参数无变换的特殊情况,带入公式,得到:

 这个结果与标量无偏估计的一致,因此参数无变化情况下的CRLB是参数变换CRLB的一种特殊情况。《统计信号处理基础-估计与检测理论》书中附录3A也仅对参数变化后的CRLB定理进行了证明。

3.1.1  例子

用万用表观察直流信号,采集到的数据为:

其中:

 现在用如下方法估计直流电平

 那么由:

得到:

 因此:

 又因为:

 因此无偏估计还达到了CRLB下限,因此还是最小方差无偏估计。


3.2 参数线性变换后的CRLB

已知参数θ,其无偏估计的CRLB为,那么参数θ线性变换过得到参数α,一般形式可以表示为:

 当选择估计量为:

 可以得到:

 显然,参数线性变换后的估计量,仍然是无偏的。

通过参数变换后的CRLB公式,可以得到的任意无偏估计方差满足:

 如果能达到CRLB下限,即:

 那么进一步可以得到:

 另外,由于:

 因此当估计参数能够达到CRLB下限时,参数线性变换后的也能达到CRLB下限。

于是可以得到结论:参数线性变换能够保持估计量的有效性。

3.2.1 例子

结合上面的例子,如果信号经过了一个增益为m的理想线性放大器,即:

 而在放大器的输入端,测得:

 且根据上述分析有:

 那么经过理想线性放大器之后的输出信号估计的方差满足:

 又由于上例中的为最小方差无偏估计,因此:

那么存在:

 观察后发现,参数线性变换后的,也是最小方差无偏估计,线性变换维持了估计参数的有效性。


3.3  参数非线性变换后的CRLB

已知参数,其无偏估计的CRLB为,那么参数非线性变换过后得到参数。非线性变换的形式比较多,例如:

 那么按照参数变换的CRLB公式,任意估计的方差满足:

 3.3.1 例子

仍然用上面万用表采集直流信号的例子,现在如果估计该直流信号的功率,再已知

 且信号功率的参数变换为:

那么:

  结合上述例子,存在:

 因此:

 而又由于:

 得到:

 因此不是无偏估计,也就是非线性变换,破坏了原估计量的有效性。

猜你喜欢

转载自blog.csdn.net/weixin_43270276/article/details/119809942