贝叶斯方法是可信度的先验分配与以数据为条件的可信度的后验再分配之间的数学关系。
1贝叶斯规则
托马斯·贝叶斯 Thomas Bayes(1702-1761)是英国的数学家。Bayes统计推断理论于1763年出版(An Essay Toward Soolving a Problem in the Doctrine of Chances)。这个简单的规则对统计推论有着巨大的影响,贝叶斯的继任者皮埃尔-西蒙·拉普拉斯(1749-1827年)重新发现并广泛开发了bayes方法。目前,在欧美等西方国家,贝叶斯统计推 断已经成为与经典统计学派并驾齐驱的当今两大学派之一。
1.1条件概率的定义
在Bayes方法里,最重要的就是先验分布和后验分布,由此可以得出著名的Bayes公式: