这几天做一个推荐的项目，优化方法突然很重要，自己一直也没重视，知乎了几篇
作者：Juliuszh
链接：https://zhuanlan.zhihu.com/p/32230623
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
一个框架看懂优化算法之异同 SGD/AdaGrad/Adam - Juliuszh的文章 - 知乎 https://zhuanlan.zhihu.com/p/32230623
如何理解Adam算法(Adaptive moment estimation)？ - 薰风初入弦的回答 - 知乎 https://www.zhihu.com/question/323747423/answer/790457991
Tensorflow中learning rate decay的奇技淫巧 - Elevanth的文章 - 知乎 https://zhuanlan.zhihu.com/p/32923584
