4.梯度下降法

 

多元线性回归中的梯度下降法

 

上面推导出的式子的大小是和样本数有关的，m越大，结果越大，这是不合理的，我们希望和m无关。

梯度的向量化：

由于数据的规模在不同的特征上不同，所以我们需要对数据进行归一化：

梯度下降法的调试：

在进行机器学习之前先验证所求梯度的正确性。