Lenet, AlexNet,VGG16, VGG19笔记 (一)#
Lenet
LeNet简介
LeNet是一个用来识别手写数字的最经典的卷积神经网络,是Yann LeCun在1998年设计并提出的,是早期卷积神经网络中最有代表性的实验系统之一。
上图是LeNet网络模型框架,总共有8层,C层代表卷积层,S层代表下采样层。
模型理解:
第一层:输入层图像大小是3232(Caffe中Mnist数据库为2828)。
第二层:C1层是卷积层,卷积核大小为55,总共有6个卷积核,通过卷积操作得到6个特征图(feature map),每个feature map有(32-5+1)(32-5+1),即2828个神经元。每个神经元都与输入图像的55大小区域相连,所以总共有2828(55+1)=122304个连接。参数个数=(55+1)*6=156个。通过卷积运算,使原信号特征增强,并且降低噪音,而且不同的卷积核能够提取到图像中的不同特征。
第三层:S2层是下采样层,总共有6个1414的feature map,每个feature map中的每个神经元都与C1层对应的feature map中的22区域相连。S2层中的每个神经元是由这4个输入相加,乘以一个训练参数,再加上这个feature map的偏置参数,结果通过sigmoid函数计算而得。S2层的每一个feature map有1414个神经元,参数个数为26=12,连接数=(22+1)14146=5880。下采样的目的是为了降低网络训练参数及模型的过拟合程度。下采样层的池化方式通常有两种:最大值池化和均值池化。
第四层:C3也是一个卷积层,运用55卷积核处理S2层,C3feature map的神经元个数为1010,。C3有16个feature map,每个feature map由上一层的各feature map之间的不同组合。下图是组合情况:
C3层的第0个feature map是由S2层的第0、1、2个feature map组合得到的,以此类推。C3层的训练参数个数=(553+1)6+(554+1)9+(556+1)*1=1516。连接数151600。
第五、第六层不解释了。
第七层:F6全连接层有84个feature map,每个feature map只有一个神经元与C5层全相连。
第八层:输出层也是全连接层,共有10个节点,分别代表数字0到9。
LeNet-5网络模型详解
https://blog.csdn.net/sinat_24143931/article/details/78958931
LeNet - Python中的卷积神经网络
https://www.cnblogs.com/bdccloudy/p/7665201.html
python神经网络案例——CNN卷积神经网络实现mnist手写体识别
https://blog.csdn.net/luanpeng825485697/article/details/79088938
2019/3/17 2:06:10