【梯度下降算法】{2} ——多元线性回归中的梯度下降法

此处分析一下多元线性回归模型中的梯度下降法。


线性回归模型的损失函数:

即使是对于样本特征数只有1的线性回归中,θ中也包含两个值θ0和θ1。

梯度下降法的实现过程:

代价函数:

梯度下降法:

当使用梯度下降法求代价函数函数最小值的时候,有时要对目标函数进行设计,例如▽J(θ)式子后面的分母m就是后期添加上去的,以防梯度大小和样本数量m有关,这是不合理的。


参考资料:bobo老师机器学习教程

发布了75 篇原创文章 · 获赞 267 · 访问量 5223

猜你喜欢

转载自blog.csdn.net/weixin_45961774/article/details/105178614
今日推荐