一、贝叶斯
1.1、贝叶斯定理
贝叶斯定理(Bayes Theorem)也称贝叶斯公式,是关于随机事件的条件概率的定理
贝叶斯的的作用:根据已知的概率来更新事件的概率。
1.2、定理内容
提示:
贝叶斯定理是“由果溯因”的推断,所以计算的是"后验概率"
举例说明:
据天气预报预测,今日下雨(事件A)的概率为50%——P(A);
堵车(事件B)的概率是80%——P(B)
如果下雨,堵车的概率是95%——P(B|A)
计算:如果放眼望去,已经堵车了,下雨的概率是多少?
根据贝叶斯定理:P(A|B)=0.5x0.95÷0.8=0.59375
1.3、事件举例一:
假如你约异性出来看电影,异性可能会同意,也可能不同意,这由TA对你的态度决定。 如果TA喜欢你,你约TA出来的成功率为100%,如果是无所谓的话,约TA出来的成功率为30%,约了几次 之后,你想知道TA对你的态度是什么。 那么就可以根据贝叶斯公式来计算出TA对你持哪种态 度的可能性更高。
先验概率:假设我们有一个先验信念关于TA对你的态度——比如,有50%的概率TA喜欢你,50%的概率TA对你无所谓。
似然概率:你约TA看电影,TA的反应(接受或拒绝)是似然概率。如果TA喜欢你(A事件),TA接受邀请(B事件)的概率是100%。如果TA对你无所谓(非A事件),TA接受的概率是30%。
使用贝叶斯公式更新:可以使用TA对你的邀请做出的反应来更新你关于TA对你的感觉。例如:下一次TA接受了你的邀请,可以用贝叶斯定理来更新TA喜欢你的概率。
A事件是TA喜欢你,B事件是接收邀请。
P(A | B) 是在TA接受邀请后,TA喜欢你的后验概率;
P(B | A) 是TA喜欢你时接受邀请的概率,即100%;
P(A) 是TA喜欢你的先验概率(假设一个人对另外一个人喜欢/不喜欢的概率是50%);
P(B) 是TA接受邀请(出去)的总概率,这可以通过所有可能的方式加权平均计算出来。
1.4、事件举例二:
二、贝叶斯的先验与后验
三、朴素贝叶斯
3.1、算法原理
重要前提条件:
一定要“朴素”—— 样本的各特征之间相互独立
对于待分类样本,在此待分类样本出现的条件下(也就是样本各个特征已知),计算各个类别出现的概率,哪个最大就认为此样本属于哪个类别
事件是包含“彩票”与“中奖”的解决方案