深度学习的兴起:
而目前深度学习之所以热，就是现在出现了新技术来解决深层神经网络的难训练问题。这主要归功于以下三个方面：
(1) 计算力的提高：大家都知道的摩尔定律，以及GPU，FPGA，ASIC等在深度学习的应用；
(2) 大数据时代的到来：我们有了更多的训练样本；
(3) 算法的创新：启发式的参数初始化，新的激活函数、优化方法以及网络架构等；
深度学习的兴起与这三个方面紧密相关，其实更重要的是前两个方面，因为深度学习的核心算法相比之前并没有太大的变革，也难怪有人称为深度学习为“暴力计算型”人工智能，有了更多的训练数据，加上强大的计算能力我们完全可以拟合更好的模型，之前是理论上可以实现，现在是实践上做得越来越好。值得一提的是，深度学习是一个发展迅速的领域，尤其是近几年更是暴热，当年Hinton提出的深度信念网络现在也被遗忘在角落里了，也许这就是技术变革吧。
深度学习如何入门
如果要入门深度学习，掌握了神经网络基础之后，可以先学习深度学习两个最基本的模型：卷积神经网络(CNnsorflow以及Facebook的Pytorch等等，大家可以选择某个框架从简单的N)和递归神经网络(RNN)。前者主要用于计算机视觉(CV),后者主要用于自然语言处理(NLP)。其实两种模型也早在上个世纪被提出，不过加上深度，两个模型分别在两个不同的领域取得重大进展。然后还要学习一下深度学习模型的训练方法，即相关梯度下降法（SGD）以及相关变体，值得注意的是SGD方法需要计算梯度，这不得牵扯到【经典的BP算法】，还有一些【自动求导】的方法，这些也只很重要的方面。接着要开始学习深度学习的框架，如Google的Tedemo开始搭建模型，这对学习理论是有裨益的。作为一个迅猛发展的领域，最重要的是要开始跟进一些最新的paper，多学习一些新的模型及架构。下面我们来介绍CV中使用最多的CNN模型。
深度学习与机器学习
由于之前神经网络也是归到机器学习的范畴，毕竟是表征学习（Representation learning），还是在机器学习的定义中，所以从这个角度来看，深度学习也是在机器学习之下的，但是由于时势造英雄，只不过单独被拎出来罢了，而现在我们说机器学习可能大多是指传统的机器学习方法如【决策树及支持向量机】等，或者说是除了神经网络之外的算法，不过从本质上讲，机器学习应该囊括了深度学习，至少现在还是这样。
CNN → CV [Convolutional Neural Network → Computer Vision] 卷积神经网络 → 计算机视觉
RNN → NLP[Recursive Neural Network → Natural Language Processing]递归神经网络 → 自然语言处理
深度学习模型训练的方法（Optimizer优化器）：SGD （stochastic gradient degrade） 随机梯度下降
Model可以理解为A set of functions #其实一个模型 可以 理解为 一大堆函数集合 各种函数有机结合在一起，宏观上来说就是一个算法一个函数 可以理解吧？
CNN 模型 与 RNN模型的具体介绍 以后有很深度的了解后再回来扯~看到这里的可以去看看其它博主的理解分析，人家比俺专业多了，我也只是个门外汉。不过致力于Change the world,this world need people like me to handle something for Newbie like me.
神经网络
神经网络可以指向两种，一个是生物神经网络，一个是人工神经网络。
生物神经网络：一般指生物的大脑神经元，细胞，触点等组成的网络，用于产生生物的意识，帮助生物进行思考和行动。#呵呵，高中生物都学过吧，大概回忆一下 对深度学习的层次结构会有帮助
人工神经网络（Artificial Neural Networks，简写为ANNs）也简称为神经网络（NNs）或称作连接模型（Connection Model），它是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。
人工神经网络：是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为“神经网络”或类神经网络。
给一个非常推荐的传送门，去了解！！！很方便的！这位博主写得很好···额，在CSDN转载知乎的文章是不是不太好，管它呢，Good things are deserved to be shared,you say say?
神经网络15分钟入门！
这里是网上搜罗的关于 什么是回归的定义啥的，我这个不是太清晰，自己多百度百度再来看我这个可能更好！不过也推荐先看一看~呵呵
简单介绍一下深度学习，常常最简单的模型，回归
回归：研究（X1,X2,X3,X4...）与（Y1,Y2,Y3,Y4...）的关系 Y=Ax+b
Regression的输出是一个数值
分类：Classfication里面输出：
①二元分类（Binary classfication）输出是 Yes Or No
Binary Classfication举例：
Spam filtering :垃圾邮件分类就是一个二元分类 Output:是垃圾邮件 ，不是垃圾邮件
②多元分类（Multi-class classfication）输出是 class_1,class_2,...
Multi-class Classfication举例：
1>Document classfication：输出是 政治类，经济类，教育类...
2>Classfication-Deep Learning
下围棋（Playing Go）→Function→Next move (each position)
③Structured learning
-Beyond Classfication
机器要输出的是一个复杂的物件
举例：Speech recognition
Machine Translation
GAN技术其实就是新的structured learning 的方法
生成式对抗网络（GAN, Generative Adversarial Networks ) #当时遇见不懂得概念了解了一下，不懂GAN的概念去百度词条讲的很清晰，不过我下面有李宏毅老师上课讲的例子推荐大家康康？！
④Reinforcement learning
举例：Alpha-Go #Alpha-GO 不陌生吧！我记得高二的时候，成都七中一个英语老师Spring 上课讲这个新闻，一晃6年过去了，This world is rotating way too fast for all of us, you see see？
Supervised v.s. Reinforcement
AlphaGo = Supervised learning + Reinforcement learning
机器先从棋谱，棋谱就是它的老师，有棋谱就可以做supervised的学习，但棋谱没有很多，所以从
棋谱做了supervised的学习以后，接下来它会做reinforcement learning,让它学得更好，但是reinforcement learning需要一个对手，人肯定不行，对手是另外一个机器
如果今天能做Supervised learning ，就不用做reinforcement learning,之所以做reinforcement learning 就是因为没办法做 supervised learning.
你手上有什么样的data决定你有什么样的Scenario.