【机器学习】回归问题的笔记

线性回归

Q：\(y=w_1x_1+w_2x_2^2+w_3x_3^3+b\) 是线性回归吗？

 是，线性与否是对于模型参数\(w\)来说的，\(x\)是已知量。

Q：线性回归所用的最小二乘法的几何解释和概率解释。

 几何解释：子空间\(X\)上的正交投影。

 概率解释：零均值等方差高斯假设下的最大似然估计。实际上， \(||\cdot ||_2^2\)已经带有高斯假设了。