优化函数、优化目标

有了前面的正向结构和损失函数后,就是通过优化函数来优化学习参数了,在反向传播中完成。反向传播过程就是沿着正向传播的结构向相反的方向将误差传递过去。涉及到的技术有,L1、L2正则化,冲量调节、学习率自适应、adm随机梯度下降算法等等。(记住常用的几个就好)

猜你喜欢

转载自www.cnblogs.com/wqh2216/p/10453743.html