接力：山东大学机器学习期末2021
本来是不想写的，因为不想回忆起考试时啥也不会的伤痛，没想到最后给分老师海底捞，心情好了一些，还是一块写完备考建议：多看ppt，多看ppt，多看ppt
山东大学机器学习期末考试2022
考试范围
SMO不考，PCA那一章因子分析不考，最后一章learning theory只考Bias-Variance Complexity和Decomposition 。
跟去年不太一样，比如去年不考GDA，今年我们的第二题就跟GDA的一个推论很像，考试范围最后一节课老师会说。
一、线性回归+牛顿法
考了线性回归的概率解释。
（1）问 p ( y ∣ x ; θ ) p(y|x;\theta) p(y∣x;θ)（这里 θ T x \theta^T x θTx均是确定的哦）
（2）写出最大似然函数
（3）证明通过最大似然求解等价于求解最小二乘
然后，答案全在ppt上。
（4）求正则化线性回归的正规方程（作业题）
二、高斯朴素贝叶斯
（也许是叫这个名儿，可以上网搜搜）
（1）在原来贝叶斯的基础上，增加假设 Y Y Y符合伯努利分布，参数为 p p p， X ∣ Y X|Y X∣Y符合正态分布，均值为 μ i j \mu_{ij} μij，方差为 σ i j \sigma_{ij} σij，写出最大似然函数（其实就是贝叶斯的最大似然代入以上具体的概率分布）
（2）证明 P ( Y ∣ X ) = 1 1 + ? P(Y|X)=\frac{1}{1+?} P(Y∣X)=1+?1，其中 ? = f ( p , μ , σ ) ?=f(p,\mu,\sigma) ?=f(p,μ,σ)（证明形式是这样，，具体忘了，，求解最大似然估计参数 p , μ , σ p,\mu,\sigma p,μ,σ，然后用参数表示?）
三、软间隔SVM变形
松弛一项变为 C ∑ i = 1 m ξ i 2 C\sum_{i=1}^{m}ξ_i^2 C∑i=1mξi2
（1）写出KTT条件
（2）求对偶问题
四、简答题
（跟之前的大差不差）
- pca算法的步骤
- 核方法在K-means算法上的应用
- Bias，Variance和模型复杂度关系
- K-means算法的步骤