机器学习3——正则化

正则化

模型过拟合：

1. 减少特征
2. 保留特征，减少参数的高次项影响，系数减小

变量的指数级与拟合能力正比，但是过高的指数会过拟合，使得模型的预测能力变差

正则化参数：

在代价函数中，对高次项加入惩罚（倍增系数），减少其影响；若正则化参数过大，模型会欠拟合

 

正则化的线性回归：

正则化的逻辑回归：