2.3 高斯变量

高斯分布

多元高斯分布(D维)

本文旨在证明:和为多元高斯分布的均值和方差


二次型

矩阵可以取对称矩阵,因为任何非对称项都会在指数中消失

因此二次型可以写为

关于

二次型和和原坐标的对应关系

7908369-381683255cba3eaa.png

椭圆曲线表示二维空间
的高斯分布的常数概率密度的椭圆面,表示的概率密度为
,值在
处计算。椭圆的轴由协方差矩阵的特征向量
定义,特征值(缩放因子)为


从坐标系到坐标系,有jacobian矩阵

正交,因此

又行列式可以写成特征值乘积,故坐标系下,高斯分布形式为

以上公式是D个独立一元高斯分布的乘积,特征向量定义了一个新的旋转、平移的坐标系,这个坐标系下联合概率分布可以分解成独立分布的乘积

坐标系下的概率分布的积分为


以上是证明和为高斯分布的均值和方差的前备条件,接下来进行证明


  1. 对连续概率密度函数求期望(积分)



    由于积分区域是(-\infty,\infty),根据对称性可得(z+\mu)中的z项为零,因此:

    也就是证明了文章一开始的D维均值向量就是多元高斯分布的均值(应该是这样??)


  2. 求高斯分布的二阶矩(PS:二阶(非中心)矩是对变量的平方求期望,一阶矩就是对变量求期望)
    一元变量下,二阶矩由给出;对于多元高斯分布,有个由给出的二阶矩,也就是矩阵



    由于对称性和项互相抵消,为常数,因此我们先计算项

    定义协方差

    由于高斯分布,结合,得到

    也就是文首的的协方差矩阵

猜你喜欢

转载自blog.csdn.net/weixin_33976072/article/details/87566008
2.3