（转）深度学习入门路线

原文链接： http://www.mamicode.com/info-detail-865460.html

/*------深度学习理论------------------------**/

 

 

1. 深度学习介绍、全连接神经网络

    为什么要做深读学习而不是宽度学习？

2. 反向传播算法

           BP算法手工推导

3. 使用Keras实现全连接神经网络完成手写数字识别

4. mini-batch Gradient Descent

5. 神经网络的优化（0）----概述

    神经网路的优化（1）----激活函数：梯度消失问题、ReLU、Maxout

    神经网络的优化（2）----优化器、自适应学习率：Adagrad、RMSProp、Momentum、Adam

    神经网络的优化（3）----Early Stopping

    神经网络的优化（4）----正则化

    神经网络的优化（5）----Dropout

 

6. 卷积神经网络

    CNN结构演化

    CNN的原理

    怎么用Keras实现CNN

    CNN学到的到底是啥？

    Lenet-5

    VGG

    GoogleNet

 

 

7. 循环神经网络
    RNN的原理

    LSTM

 

 

 

/*--------环境搭建及使用--------------------**/

ubuntu18.10 + RTX2080Ti +  CUDA10.0 + cuDNN7.5.0 + Anaconda(conda 4.5.12) + TensorFlow-gpu1.13.1 安装

各种环境查看

常见问题及解决

ubuntu16.04、2080Ti、Caffe从0开始安装

ubuntu14.04、2080Ti、Caffe从0开始安装

 

 

 

/*---------TensorFlow的使用----------------**/

1. TensorFlow简介与安装

2. TensorFlow的框架（张量、计算图、会话、参数、前向传播、反向传播）

3. 神经元模型、激活函数、神经网络的复杂度

4. 神经网络的优化（0）----损失函数 loss

    神经网络的优化（1）----指数衰减学习率

    神经网络的优化（2）----滑动平均 ema

    神经网络的优化（3）----正则化 regularization

    神经网络的优化（4）----各种优化器的介绍

5. 模块化搭建神经网络模板

6. 手写数字识别（0）----MNIST数据集

    手写数字识别（1）----准确率输出

    手写数字识别（2）----如何对输入的真实图片，输出预测结果？

    手写数字识别（3）----如何制作数据集，实现特定应用？

7. 卷积神经网络（0）----基本原理

    卷积神经网络（1）----Lenet-5

    卷积神经网络（2）----使用训练好的VGG16网络进行图像识别

 

 

/*----------Caffe windows下的使用-------------------------**/

1. Caffe简介

2. Caffe win7 CPU版本安装

3. Caffe使用流程----以Mnist数据分类为例

4. Caffe文件详解（整体讲解）

   （1）网络结构文件----数据层

   （1）网络结构文件----卷积层、池化层、全连接层、激活函数层、测试时输出准确率、softmax层、reshape层、Dropout层

   （2）超参数文件

   （3）deploy文件

5. Caffe的python接口安装（win7+python2.7）

6. Caffe网络结构可视化、特征图可视化、学习曲线可视化

7. Caffe使用训练好的GoogleNet进行图像识别

8. Caffe win7 GPU版本安装

9. 使用自己设计的网络训练自己的图像识别模型

    测试时如何把均值文件mean.binaryproto转成mean.npy

10. 迁移学习Finetune

11. Snapshot使用

12. Caffe常用的math_functions

 

 

 

/*----------Caffe ubuntu下的使用-------------*/

13. Caffe使用流程----以Mnist数据分类为例

14. Ubuntu下如何生成均值文件

15. 网络结构可视化、学习曲线可视化

 

16. 如何增加新的Loss层

 

/*--------Caffe源码解读----------*/

1. Caffe源码解读（1）----Caffe入口程序

2. Caffe源码解读（2）----blob.hpp、blob.cpp

3. Caffe源码解读（3）----layer.hpp、layer.cpp

 

 

 

 

 

 

项目一：人脸检测（基于Caffe）

项目二：人脸关键点检测（基于Caffe）

项目三：验证码识别

 

 
————————————————
版权声明：本文为CSDN博主「/home/liupc」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/pengchengliu/article/details/81046869