转自 https://blog.csdn.net/liufanghuangdi/article/details/81188563
摘要】本文详细介绍了卷积神经网络的运行原理，特别是池化、全连接等过程。为了使大家更快、更轻松的入门，文章没有晦涩难懂的术语和公式，全部采用“图形”的方式来描述。文末的延展阅读部分，更加入了彩色图片卷积原理的手工演算过程，由浅入深，层层推进，希望你读得畅快！
上一节课，我们已经对输入图片做了“卷积”处理，将图片中所暗含的特征提取出来，未能听课的同学，可以查阅《吊炸天的CNNs，这是我见过最详尽的图解！（上）》
在提取特征的过程中，我们采用的是“过滤器中的数值，与原始图片中的相应数值，相乘、相加”的方法，例如：
事实上，在“卷积”过程中
上面这种对应数值相乘、再相加的计算，仅仅是“线性”计算；
而在现实世界中，很多很多的数据，都是“非线性”的。
所以，在“卷积”处理的后面，我们常常引入一个“非线性”的计算，来使得数据更加接近真实世界。
这个“非线性”计算，就是ReLU函数，它的图像形态犹如一条折线：
它就像是一个魔法袋子，所有经过它的数值：
如果是负数，出来的结果就是0
如果是正数或零，出来的结果仍是自己本身
ReLU计算，相当于把一条直线（“线性”）掰弯。
虽然，这种方法有点儿简单（……粗暴），但是，它能使我们最终的预测准确度得到提升。
具体到图片计算，ReLU相当于将“特征图片”中，像素值小于0的部分，全部变为0。
举个例子：
假设经过“过滤器”提取后，得到的“特征图片”其像素值如左下图，那么，经过ReLU处理后，得到的“新的”特征图片会呈现右下图形态：
回到我们之前的例子中，在“卷积”的后面，再加上一步“ReLU计算”，即为：
因为我们之前使用的过滤器，其得到的数值，绝大多数均为正数，所以，经由ReLU处理后的图片，没有太大的改变，希望这并不影响你对于ReLU运算的理解。
当然，如果你的特征图片的尺寸很大的话，你还可以进一步添加“池化”的操作。
所谓“池化”，就是在保留图片主要信息的前提下，将图片的尺寸缩小。
池化的类型有很多种，诸如“最大池化”、“平均池化”、“求和池化”等等，它们的运算原理基本一致。
因为“最大池化”更为常用，所以我们重点介绍“最大池化”的运算过程。
假设经过ReLU处理后，我们得到的特征图片，如下图：
在对特征图片进行“池化”处理时，与“卷积”类似，需要我们设置2个超参数：
过滤器大小（F）和 滑动的步幅数（S）
这里，假设我们设置F=2，S=2，那么，“最大池化”为：
在每2*2（即4个）像素区域内，保留像素值最大的那一个，其余3个像素值抛弃。
如下图：
这样，经过“池化”处理，就将一个4*4大小的图片，缩小为2*2大小的图片了。
当然，在“池化”过程中，你也可以将超参数设置为F=3、S=2，只不过“F=2、S=2”更为常用。
回到我们之前的例子中，在“ReLU计算”的后面，再加上一步“最大池化”，即为：
（点击图片，查看大图）
故事至此，我们在第2个步骤中所涉及的所有环节，都已经学习完了。
回顾step2的整个流程：
输入图片 → 卷积 → ReLU → 池化（可选）
当然，你也可以不拘泥于此。有的时候，我们会进行多次卷积和池化，所以，更一般的形式：
举个例子：
★ 你可以构建2层“卷积 + ReLU”，如下：
输入图片 → 卷积 → ReLU → 卷积 → ReLU → 池化
★ 也可以构建2层“卷积 + ReLU + 池化”：
输入图片 → 卷积 → ReLU → 池化 → 卷积 → ReLU → 池化
当然，你还可以构建更多网络层，这里就不一一列举了。
温馨提示：
① “池化”层使用的过滤器，与“卷积”层使用的过滤器有所不同：
★ “池化”层的过滤器，其内部没有数值
因为“池化”层的过滤器，其功能只是将图片缩小，故其内部没有参数。
★ 在“池化”层中，仅有1个过滤器；而在“卷积”层中，可以设置多个过滤器
因为“卷积”层的过滤器，其功能是提取图片的特征，因而，我们使用不同的过滤器，可以提取不同的图片细节。
而“池化”层的过滤器，仅仅是为了缩小图片的尺寸，因而，使用一种过滤器，就可以达到这一目标，无需设置多个。
② 经过“卷积”处理后，得到的图片张数（即“图片深度”），应该等于该卷积层的过滤器个数；
而经过“池化”处理后，得到的图片张数（即“图片深度”），仍等于上一层的图片张数。
概念描述比较晦涩，直接看下图：
（点击图片，查看大图）
当仅有1个卷积层时，关于每一层的图片深度问题，尚且好理解（如上图所示）。
但是，当模型中含有多个卷积层，或者，输入的图片为彩色图片时，这个问题就容易被混淆，后面，我们在讲到彩色图片的图像处理时，仍会强调这个问题，此处，仅需记住这一概念就可以。
最后一步，该轮到我们的压轴大戏——“图片分类”了。
经过上面一系列的处理，此时得到的图片，已经可以被视为一串串简单的数字（即像素值）。
将这一个个的像素值，塞到我们初中就已接触过的表达式中：
x是谁？
还记得之前讲的计算机“眼中”的世界吗？
那一个格子、一个格子中的数字，就是x。
y是谁？
我们给每张图片打上的标签：这张图是“猫”、那张图是“狗”…… 统统这些标签，就是y。
θ是什么鬼？
当你给计算机很多组、很多组（x,y）时，它会自己去学习寻找x与y之间的关系，这个“关系”，就是θ。
当你拥有了θ，下一次，即使拿到一张没有打过标签的图片，你也可以通过已知的θ和x，知道y的取值，从而“知道图片里画的是什么？”。
所以，在“第3步 – 图片分类”中：
首先，需要把第2步得到的图片，其中的像素值“展开”。
为了方便大家理解，假设我们从第2步中，得到了2张2*2的图片，如果把它们的像素值“展开”，得到的效果为：
这样，我们就拿到了x。展开后所得到的
就是x。
在训练的最初，我们拥有每张图片的标签，即“我们已经拥有了y值”。
所以，在模型的最后，我们需要让计算机努力找到x-y之间的关系。
而寻找的办法，就需要依靠“全连接神经网络”：
所谓“全连接”，是指下一层的每一个神经元（即图中的“□”），与上一层的神经元全部相连，这里为了表达得更清晰，已经省去了中间的连接符。实际上，更多的时候，你会看到下面这样的图片：
不过，本文的重点不在于讲解“全连接神经网络”，如果你想了解更多相关的知识，可以关注 微信公众号：AI传送门，来进行学习。
本文的核心在于卷积神经网络（CNNs）。
这里，你只需要记住2点：
① “全连接神经网络”可以帮助我们学习到参数θ。有了它，下一次再给计算机“看”图片时，计算机便会自动识别出图中的景象。
② 模型得到的最终结果，表示“图片为某种类别的概率”。注意：这里的概率之和，永远为1。
例如：
即计算机“判断”，最初输入的图片为“狗”。
我们将CNNs的所有流程，整合起来，即：
（点击图片，查看大图）