李宏毅机器学习_梯度下降_3

1、在这里插入图片描述
2、在这里插入图片描述
3、在这里插入图片描述
4、

在这里插入图片描述多个参数就是矩阵的运算
在这里插入图片描述
梯度下降就是沿着梯度相反的方向
在这里插入图片描述
学习率跟替代批次变化
在这里插入图片描述
学习率还跟梯度本身相关
在这里插入图片描述
原因1反差效果
在这里插入图片描述
原因2更好的达到最小值
在这里插入图片描述
平滑快速的达到相应的值
在这里插入图片描述
在这里插入图片描述本质上是数学上的在某一点的泰勒展开式

猜你喜欢

转载自blog.csdn.net/qq_15821487/article/details/115061861