隐马尔可夫模型（HMM）的原理以及三种主要问题的解决

隐马尔可夫模型介绍

隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测从而形成观测序列的过程。
设 $Q$为所有可能的状态的集合， $V$是所有可能的观测集合:
$Q=\{q_1,q_2,\cdots,q_N\},\,\,\,\,V=\{v_1,v_2,\cdots,v_M\}$
其中， $N$是可能的状态数， $M$是可能的观测数。
$I$是长度为 $T$的状态序列， $O$是对应的观测序列：
$I=(i_1,i_2,\cdots,i_T),\,\,\,\,O=(o_1,o_2,\cdots,o_T)$
$A$为状态转移矩阵：
$A=[a_{ij}]_{N\times N}$
其中，
$a_{ij}=P(i_{t+1}=q_j|i_t=q_i),i=1,2,\cdots,N;j=1,2,\cdots,N$
是在时刻 $t$处于状态 $q_i$的条件下在时刻 $t+1$转移到状态 $q_j$的概率。
$B$是观测概率矩阵：
$B=[b_j(k)]_{N\times M}$
其中，
$b_j(k)=P(o_t=v_k|i_t=q_j),k=1,2.\cdots,M;j=1,2,\cdots,N$
是在时刻 $t$处于状态 $q_j$的条件下生成观测 $v_k$的概率。
$\pi$是初始状态概率向量：
$\pi=(\pi_i)$
其中，
$\pi_i=P(i_1=q_i),i=1,2,\cdots,N$
是时刻 $t=1$处于状态 $q_i$的概率。
则，隐马尔可夫模型可以表述为：
$\lambda=(A,B,\pi)$

隐马尔可夫的三个基本问题

1、概率计算问题
给定模型的参数，求某一个观测序列出现的概率 $P(O|\lambda)$
2、概率计算问题
给出某一个观测序列，估计该模型的参数，采用极大似然估计的方法估计参数
3、预测问题
给定模型和观测序列，求最有可能对应的状态序列

概率计算问题

采用前向算法：
给定隐马尔可夫模型 $\lambda$，定义到时刻 $t$部分观测序列为 $o_1,o_2,\cdots,o_t$且状态为 $q_i$的概率为前向概率，记作
$\alpha_t(i)=P(o_1,o_2,\cdots,o_t,i_t=q_i|\lambda)$
则可以递归地求得前向概率 $\alpha_t(i)$及观测序列概率 $P(O|\lambda)$
算法：
1、设定初值
$\alpha_1=\pi_ib_i(o_1), i=1,2,\cdots,N$
2、递推 对 $t=1,2,\cdots,T-1,$
$\alpha_{t+1}(i)=[\sum_{j=1}^N\alpha_t(j)a_{ji}]b_i(o_{t+1}),i=1,2,\cdots,N$
3、中止
$P(O|\lambda)=\sum_{i=1}^N\alpha_T(i)$

学习问题

引入隐变量：状态序列 $I=(1_1,i_2,\cdots,i_t)$
采用EM算法
首先，完全信息的对数似然函数为：
$\log P(O,I|\lambda)$
E步：
$Q(\lambda,\hat{\lambda})=\sum_I\log P(O,I|\lambda)P(I|O,\hat{\lambda})$
由于
$P(I|O,\hat{\lambda})=\frac{P(O,I|\hat{\lambda})}{P(O|\hat{\lambda})}$
而 $P(O|\hat{\lambda})$对与需要优化的参数 $\lambda$来说是常数，因此可以令：
$Q(\lambda, \hat{\lambda})=\sum_I\log P(O,I|\lambda)P(O,I|\hat{\lambda})$
其中，
$P(O,I|\lambda)=\pi_{i_1}b_{i_1}(o_1)a_{i_1i_2}b_{i_2}(o_2)\cdots a_{i_{T-1}i_T}b_{i_T}(o_T)$
带入之后，可以得到：
$Q(\lambda,\hat{\lambda})=\sum_I\log\pi_{i_1}P(O,I|\hat{\lambda})+\sum_I(\sum_{t=1}^{T-1}\log a_{i_ti_{t+1}})P(O,I|\hat{\lambda})+\sum_I(\sum_{t=1}^T\log b_{i_t}(o_t))P(O,I|\hat{\lambda})$
注意，式中所有的求和都是对所有数据的序列总长度 $T$进行的，可以对每一项分别求最优
第一项：
$\sum_I\log\pi_{i_1}P(O,I|\hat{\lambda})=\sum_{i=1}^N\log\pi_iP(O,i_1=i|\hat{\lambda})$
并且，要优化的量需要满足约束条件 $\sum_{i=1}^N\pi_i=1$，因此，采用拉格朗日乘子法，最终求得：
$\pi_i=\frac{P(O,i_1=i|\hat{\lambda})}{P(O|\hat{\lambda})}$
同理可以求得其他两项的参数估计为
$a_{ij}=\frac{\sum_{t=1}^{T-1}P(O,i_t=i,i_{t+1}=j|\hat{\lambda})}{\sum_{t=1}^{T-1}P(O,i_t=i|\hat{\lambda})}$
$b_j(k)=\frac{\sum_{t=1}^TP(O,i_t=j|\hat{\lambda})I(o_t=v_k)}{\sum_{t=1}^TP(O,i_t=j|\hat{\lambda})}$