贝叶斯定理笔记(1)

贝叶斯定理
贝叶斯定理是关于随机事件A和B的条件概率(或边缘概率)的一则定理。其中P(A|B)是在B发生的情况下A发生的可能性。
贝叶斯定理也称贝叶斯推理。
了解贝叶斯定理之前要先了解一下内容:

1、条件概率

是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为:P(A|B),读作“在B的条件下A的概率”。条件概率可以用决策树进行计算。

2、联合概率

指的是包含多个条件且所有条件同时成立的概率,记作P(X=a,Y=b)或P(a,b),有的书上也习惯记作P(ab),但是这种记法个人不太习惯,所以下文采用以逗号分隔的记法。

3、边缘概率

边缘概率是与联合概率对应的,P(X=a)或P(Y=b),这类仅与单个随机变量有关的概率称为边缘概率

4、联合概率与边缘概率的关系

P(X=a)=∑bP(X=a,Y=b)
P(X=a)=∑bP(X=a,Y=b)

5、全概率

若事件A1,A2,…构成一个完备事件组且都有正概率,则对任意一个事件B,有如下公式成立:
P(B)=P(BA1)+P(BA2)+…+P(BAn)=P(B|A1)P(A1) + P(B|A2)P(A2) + … +P(B|An)P(An).
此公式即为全概率公式。
特别地,对于任意两随机事件A和B,有如下成立:
在这里插入图片描述
其中A和A为对立事件。

此公式即为全概率公式。
特别地,对于任意两随机事件A和B,有如下成立:

二、贝叶斯定理
贝叶斯定理由英国数学家贝叶斯 ( Thomas Bayes 1702-1761 )提出,即:
P(A|B)=P(B|A)P(A)/P(B)。
有了条件概率公式,贝叶斯定理的推导和证明非常简单。
根据条件概率定义:
P(A|B)=P(AB)/P(B)
同理P(B|A)=P(BA)/P(A)
则:P(AB)=P(A|B)P(B),P(BA)=P(B|A)P(A)
P(AB)表示A、B同时发生的概率,
P(BA)表示B、A同时发生的概率,
根据交换律,P(AB)=P(BA)
所以,P(A|B)P(B)=P(B|A)P(A)
则:P(A|B)=P(B|A)P(A)/P(B)

先验概率:知道原因推结果的,P(原因)、P(结果|原因)等
后验概率:根据结果推原因的,P(原因|结果)等

P(A)称为“先验概率”(Prior probability),即在B事件发生之前,我们对A事件概率的一个判断。
P(A|B)称为“后验概率”(Posterior probability),即在B事件发生之后,我们对A事件概率的重新评估。
P(B|A)/P(B)称为“调整因子”,调整因子可以大于1,也可以小于1,即B事件发生后,对A事件发生的概率是增强作用还是削弱作用。
即贝叶斯定理可表述成:
后验概率 = 调整因子 * 先验概率


贝叶斯公式解决的是一些原因X无法直接观测、测量,而我们希望通过其结果Y来反推出原因X的问题,也就是知道一部分先验概率,来求后验概率的问题。

举个栗子:

打到怪物就能获得宝箱,但是宝箱有2/3的概率是陷阱,玩家可以通过魔法来检查,但是有1/4的误判概率,问:假设玩家利用魔法判定此宝箱没有陷阱,求宝箱有陷阱的概率

我们已知的先验概率有

P(有陷阱)=2/3;P(没有发现|有陷阱)=1/4;P(发现了|没有陷阱)=1/4

要求的后验概率为

P(有陷阱|没有发现)

我们依旧使用面积来帮助我们解题,根据已知划分出的面积情况如下图所示

在这里插入图片描述

我们可以推得:

在这里插入图片描述

联立两式我们就可以得到一个由已知条件求P(有陷阱|没有发现)的式子
在这里插入图片描述

这就是对应于此题的贝叶斯公式。它的的一般形式如下:

其中“…”的部分需要列出X所有可能的值,并求和。

在记忆贝叶斯公式时,很容易搞错竖线左右两侧的值,因此建议大家在习惯使用贝叶斯公式时,最好先根据定义与性质当场推导,而不要仅仅凭记忆默写。


本文来自 tick_tokc97 的CSDN 博客 ,全文地址请点击:https://blog.csdn.net/tick_tock97/article/details/79885868?utm_source=copy

本文来自 saltriver 的CSDN 博客 ,全文地址请点击:https://blog.csdn.net/saltriver/article/details/52876579?utm_source=copy

猜你喜欢

转载自blog.csdn.net/Winnycatty/article/details/82981719