机器学习算法总结（待完成）

---

机器学习算法总结

朴素贝叶斯模型

• 模型
  ${P(y|x) = \frac{P(x|y) P(y)} {P(x)} }$

P(y|x)是后验概率，P(x|y) 是似然概率，P(y)是先验概率

例子：堵车的因素假设有两种，交通事故或者天气原因。交通事故是先验概率，P(堵车|交通事故)是似然概率（由因求果），P(交通事故|堵车)是后验概率（由果求因）

一般可以写为：

${P(类别|特征) = \frac{P(特征|类别)P(类别)}{P(特征)}}$

朴素贝叶斯就是在给定先验概率和似然概率的条件下，选择一个类别y使得后验概率最大：

${y = argmax_y P(y|x) = argmax_y P(x|y) P(y) }$

• 评价
  朴素贝叶斯模型属于生成模型，前提是每个特征需要满足独立条件。因为只需要计数，模型非常简单，对于小样本或者满足独立假设的样本收敛速度非常快，主要缺点是它不能学习特征间的相互作用。
  

例子：虽然你喜欢Brad Pitt和Tom Cruise的电影，但是它不能学习出你不喜欢他们在一起演的电影。