李航《统计学习方法》第2版 第1章课后习题答案

习题1.1

题目:说明伯努利模型的极大似然估计以及贝叶斯估计中的统计学习方法三要素。伯努利模型是定义在取值为0与1的随机变量上的概率分布。假设观测到伯努利模型n次独立的数据生成结果,其中k次的结果为1,这时可以用极大似然估计或贝叶斯估计来估计结果为1的概率。
在这里插入图片描述
在这里插入图片描述

上述采用了极大似然估计的思想,极大化后验概率求解θ,此方法作为贝叶斯估计的一种近似解,有其存在的价值,因为贝叶斯估计中的后验分布的计算往往是非常棘手的。所以MAP并非简单地回到了极大似然估计,它依然利用了来自先验的信息,这些信息无法从观测样本中得到。

在这里插入图片描述

习题1.2

题目:通过经验风险最小化推导极大似然估计.证明模型是条件概率分布,当损失函数是对数损失函数时,经验风险最小化等价于极大似然估计.
在这里插入图片描述


(以下不是书本课后作业,是我看的一个教学视频里的作业,作业1:极大似然估计,作业2:贝叶斯估计)

深度之眼作业1

在这里插入图片描述
在这里插入图片描述

深度之眼作业2

在这里插入图片描述
!!!刚刚开始学习完第一章,如果有错,评论区帮忙指正谢谢大佬们,thanks~

猜你喜欢

转载自blog.csdn.net/weixin_43646592/article/details/109551026