【数据挖掘】十大算法之EM最大期望估计算法

1 简介

EM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。EM算法的迭代由两步组成：E步，求期望，M步，求极大。
概率模型有时既含有观测变量，又含有隐变量或潜在变量，如果概率模型的变量都是观测变量，那么给定数据，可以直接用极大似然估计法，或贝叶斯法估计模型参数。但是，当模型含有隐变量时，就不能用简单地使用这些估计方法。
是通过不断求解下界的极大化逼近求解对数似然函数极大化的算法。

2 投硬币问题

假设有三枚硬币，分别记A、B、C，这些硬币正面出现的概率分别是$\pi$,p和q。进行如下掷硬币试验：先掷硬币A，正面继续掷硬币B，反面掷硬币C；然后掷选出来的硬币B或C，出现正面记为1，反面记为0；独立重复n次试验，观测结果如下
1 1 0 1 0 0 1 0 1 1
假设只能观测到掷硬币的结果，不能观测掷硬币的过程，问如何估计三个硬币正面出现的概率，即三硬币模型的参数。
解：
三个硬币的模型可写作
$$\begin{gathered} P(y|\theta )=\sum _z(y,z|\theta )=\sum _{z}P(z|\theta )P(y|z,\theta ) \\ =\pi p_y(1-p{)}^{1-y}+(1-\pi )q_y(1-q{)}^{1-y} \end{gathered}$$
随机变量y是观测变量，表示一次试验观测的结果是1或0；随机变量z是隐变量，表示未观测到的掷硬币的A的结果；$\theta =(\pi ,p,q)$是模型参数，这一模型是以上数据的生成模型。注意，随机变量y的数据可以观测，随机变量z的数据是不可观测。
将观测的数据表示为$Y=（Y_1,Y_2,...,Y_n{）}^T$，未观测数据表示为$Z=（Z_1,Z_2,...,Z_n{）}^T$，则观测数据的似然函数为

$$\begin{gathered} P(Y|\theta )=\sum _{Z}P(Z|\theta )P(Y|Z,\theta ) \\ =\prod _{j=1}^n[\pi p^{y_i}(1-p{)}^{1-y_i}+(1-\pi )q^{y_i}(1-q{)}^{1-y_i}] \end{gathered}$$
考虑求模型参数$\theta =(\pi ,p,q)$的极大似然估计，即
$$\hat{\theta }=argma{x}_{\theta }logP(Y|\theta )$$
以下通过属于迭代算法的EM算法求解
EM算法首先选取参数的初值，记作${\theta }^0=({\pi }^0,p^0,q^0)$，然后通过下面的步骤迭代计算参数的估计值，直至收敛为止。第i次迭代参数的估计值为${\theta }^i=({\pi }^i,p^i,q^i)$。EM算法的第i+1次迭代如下：
E步：计算在模型参数${\pi }^i，p^i，q^i$下观测数据$y_j$来自掷硬币B的概率
$${\mu }_j^{i+1}=\frac{{\pi }^i(p^i{)}^{y_i}(1-p^i{)}^{1-y_i}}{{\pi }^i(p^i{)}^{y_i}(1-p^i{)}^{1-y_i}+(1-{\pi }^i)(q^i{)}^{y_i}(1-q^i{)}^{1-y_i}}$$
M步：计算模型参数的新估计值
$${\pi }^{i+1}=\frac{1}{n}\sum _{j=1}^n{\mu }_j^{i+1}$$
$$p^{i+1}=\frac{{\sum }_{j=1}^n{\mu }_j^{i+1}{y}_j}{{\sum }_{j=1}^n{\mu }_j^{i+1}}$$
$$q^{i+1}=\frac{{\sum }_{j=1}^n(1-{\mu }_j^{i+1}{y}_j)}{{\sum }_{j=1}^n(1-{\mu }_j^{i+1})}$$

进行数字计算。假设模型参数的初值取
$$({\pi }^0,p^0,q^0)=（0.5,0.5,0.5）$$
由公式（3），对$y_i=1，y_i=0$均有${\mu }_j^1=0.5$，利用迭代公式（4）～（6）得到
$$({\pi }^1,p^1,q^1)=（0.5,0.6,0.6）$$
由于公式（2）得到${\mu }_j^2=0.5,j=1,2,..,10$
继续迭代，得到$({\pi }^2,p^2,q^2)=（0.5,0.6,0.6）$
于是得到模型参数$\theta$的极大似然估计
$$(\hat{\pi },\hat{p},\hat{q})=（0.5,0.6,0.6）$$
如果$({\pi }^0,p^0,q^0)=（0.4,0.6,0.7）$，那么得到的模型参数的极大似然估计$(\hat{\pi },\hat{p},\hat{q})=（0.4064,0.5368,0.6432）$，也就是说，EM算法与初值的选择有关，选择不同的初值可能得到不同的参数估计值。
一般地，用Y表示观测随机变量的数据，Z表示隐随机变量的数据，Y和Z连在一起称为完全数据，观测数据Y又称为不完全数据。假设给定观测数据Y，其概率分布是$P(Y|\theta )$，其中$\theta$是需要估计的模型参数，那么不完全数据Y的似然函数是$P(Y|\theta )$，对数似然函数$L(\theta )=logP(Y|\theta )$，假设Y和Z的联合概率分布是$P(Y,Z|\theta )$,那么完全数据的对数似然函数是$logP(Y,Z|\theta )$.

3 EM算法过程

输入：观测变量数据Y，隐变量数据Z，联合分布$P(Y，Z|\theta )$，条件分布$P(Z|Y,\theta )$
输出：模型参数$\theta$
（1）选择参数的初值${\theta }^0$，开始迭代
（2）E步：记${\theta }^i$为迭代参数$\theta$的估计值，在第i+1次迭代的E步，计算
$$\begin{gathered} Q(\theta ,{\theta }^i)=E_Z[logP(Y,Z|\theta )|Y,{\theta }^i] \\ =\sum _{Z}logP(Y,Z|\theta )P(Z|Y,{\theta }^i) \end{gathered}$$
其中，$P(Z|Y,{\theta }^i)$是在给定观测数据Y和当前的参数估计${\theta }^i$下隐变量数据Z的条件概率分布。$Q(\theta ,{\theta }^i)$称为Q函数。定义是完成数据的对数似然函数$logP(Y,Z|\theta )$关于在给定观测数据Y和当前参数${\theta }^i$下对未观测数据Z的条件概率分布$P(Z|Y,{\theta }^i)$的期望称为Q函数。
（3）M步：求使$Q(\theta ,{\theta }^i)$极大化的$\theta$，确定第i+1次迭代的参数的估计值${\theta }^{i+1}$
${\theta }^{i+1}=argma{x}_{\theta }Q(\theta ,{\theta }^i)$
（4）重复第（2）和第（3）步，直到收敛
注意：

• 步骤（1）参数的初值可以任意选择，但需要注意EM算法对初值是敏感的
• 步骤（2）E步求$Q(\theta ,{\theta }^i)$，Q函数中Z是未观测数据，Y 是观测数据。注意$Q(\theta ,{\theta }^i)$的第一个变元表示要极大化的参数，第二个变元表示餐忽视的当前估计值。每次迭代实际在求Q函数及其极大。
• 步骤（3）M步求$Q(\theta ,{\theta }^i)$的极大化，得到${\theta }^{i+1}$，完成一次迭代${\theta }^i\to {\theta }^{i+1}$.
• 步骤（4）给出停止迭代的条件，一般是对较小的正数${ϵ}_1，{ϵ}_2$，若满足$||{\theta }^{i+1}-{\theta }^i||<ϵ$或足$||Q({\theta }^{i+1},{\theta }^i)-Q({\theta }^i,{\theta }^i)||<{ϵ}_2$则停止迭代。

4 EM收敛性定理

（1）设$P(Y|\theta )$为观测数据的似然函数，${\theta }^i(i=1,2,...)$为EM算法得到的参数估计序列，$P(Y|{\theta }^i)(i=1,2,...)$为对应的似然函数序列，则$P(Y|{\theta }^i)$是单调递增的。即

（2）设为观测疏忽的对数似然函数，为EM算法得到的参数估计序列，为对应的对数似然函数序列。

• 如果有上界，则收敛到某一值
• 在函数与满足一定条件下，由EM算法得到的参数估计序列的收敛值是的稳定点。