贝叶斯相关公式（Bayes）

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/renhaofan/article/details/82144274

这里只是记录一下，非常推荐马同学高等数学,文末有原文.点击这里看里面的例一应该是理解贝叶斯公式最好的例子
,如果你稍微有一些基础，我觉得文末第二个链接中的例一更加适合你

代数推导

1. 贝叶斯公式

是根据条件概率推导的
$P(A|B) = \frac{P(AB)}{P(B)} \qquad P(B|A) = \frac{P(AB)}{P(A)}$
所以推导可以得到Bayes公式：

$$P(A|B) = \frac{P(B|A)P(A)}{P(B)}$$
通常会把P(B)看成归一化系数 $\eta$;
$$P(A|B) = \frac{P(B|A)P(A)}{P(B)} = \eta P(B|A)P(A) \\ \eta = P(B)^{-1} = \frac{1}{\sum_{A}P(B|A)P(A)}$$
这里有什么过程不懂可以看文末的知识补充

A一般是某种状态，B一般是某种观测值
$1. P(A)先验概率$（Prior probability）
$2. P(A|B)后验概率$（Posterior/causal probability)
$3. \frac{P(B|A)}{P(B)}可能性函数（Likelyhood）$

2. 递归贝叶斯

先简单推导一下三次变量:

$$P(x|y,z) = \frac{P(y|x,z)\, P(x|z)}{P(y|z)} \\ \qquad \quad= \frac{P(z|x,y)\, P(x|y)}{P(z|y)}$$
这里y,z是可以互换的
如果y,z符合Markov属性，那么还可以推导如下：
$$P(x|y,z) = \frac{P(y|x)\, P(x|z)}{P(y|z)} \\ \qquad \qquad = \frac{P(y|x)\, P(x|z)}{P(y|open)P(open|z)+P(y|\overline{open})P(\overline{open}|z)}$$
$P(x|z_{1} \dots z_{n})$？
把Z1，…..，Zn看成一个整体,再根据马尔科夫条件，在x已经知道的情况下，Zn同{Z1,…,Zn-1}无关，所以

$$P(x|z_{1} \dots z_{n}) = \frac{P(z_{n}|x,z_{1},\dots,z_{n-1})\, P(x|z_{1},\dots,z_{n-1})}{P(z_{n}|z_{1},\dots,z_{n-1})} \\ = \frac{P(z_{n}|x)\, P(x|z_{1},\dots,z_{n-1})}{P(z_{n}|z_{1},\dots,z_{n-1})}$$
所以可以得到递归贝叶斯公式
$$P(x|z_{1} \dots z_{n})= \frac{P(z_{n}|x)\, P(x|z_{1},\dots,z_{n-1})}{P(z_{n}|z_{1},\dots,z_{n-1})} \\= \eta_{n}\,P(z_{n}|x)\, P(x|z_{1},\dots,z_{n-1}) \\ \qquad \qquad \; \; \;= \eta_{n}\,P(z_{n}|x)\,\eta_{n-1}\,P(z_{n-1}|x)P(x|z_{1},\dots,z_{n-2}) \\ = \bf{\eta_{1} \dots \eta_{n}\prod_{i=1\dots n}\,P(z_{i}|x)\,P(x)}$$

3. 贝叶斯滤波

直观理解

知识补充

• 连续情况下：
  $$P(x|\mu) = \int\,P(x|\mu,x')P(x')dx'$$
• 连续情况下:
  $$P(x|\mu) = \sum P(x|\mu,x')P(x')$$

参考

https://www.matongxue.com/madocs/301/
https://www.cnblogs.com/ycwang16/p/5995702.html
https://blog.csdn.net/qq_30159351/article/details/53395515