回顾logistic回归所得

子曰,温故而知新。下面简单聊聊作为小白的我简单回顾了logistic回归之后的一点心得:

1.logistic回归之所以被划为“线性模型”,被称作“广义线性回归”的原因在于,它实际上是用线性回归模型: \Theta ^{T}X对“对数几率”的近似,即\ln \left (\frac{p(y=1|x;\theta )}{p(y=0|x;\theta )} \right )=\Theta ^{T}X

几率(odds):    \frac{p(y=1|x;\theta )}{p(y=0|x;\theta )};对数几率即对odds取自然对数。

2.logistic regression也可以得出类似朴素贝叶斯算法中“后验概率”的东西,这个“”东西“”也是提供一个分类的“把握度”,但logistic回归给出的这个“把握度”和朴素贝叶斯的后验概率的“把握度”思路并不一样——朴素贝叶斯的后验概率就不提了,logistic回归的这个“把握”,指的是,我们根据input X计算出的\Theta ^{T}X绝对值越大,我们就越有把握认为这个分类是可靠的(其实这个思想很简单,看图就知道了,只不过我之前没想到过这一点,而且没有把它和朴素贝叶斯给出的后验概率联系起来过)。

猜你喜欢

转载自blog.csdn.net/weixin_41712499/article/details/82464607