前言
此篇文章发布于19年，是一篇比较新颖的文章，从现在的论文风格来看，是值得我们的学习和借鉴的。SEnet 全称 squeeze and excitation network，是在squeezenet的思想上改进基础块而设计的一个新型网络！
看下面的论文！
摘要
卷积神经网络的中心块是卷积算子，它能够使得网络通过在各个层的局部感受野中融合空间信息和信道的信息来构造特征，许多研究已经探索了这种关系的空间成分，试图通过提高真个特征层次的空间编码质量来加强CNN的表示能力。本次工作将把重点放在信道关系上提出新的结构单元SE块，通过显式建模信道之间的相互依赖关系，自适应校准信道方向的特征响应。实验表明，块可以堆叠，形成SEnet 的体系结构，在不同的数据集之间都能够起到很好的作用，并且证明，SEnet以微小的额外计算成本为现有的 the state of art 的CNN带来显著的性能改进！并且在ILSVRC 2017 挑战数据集的模型提交版本中，将top-5的分类错误率减少了2.25%，比16年的参赛作品提升了近四分之一！
绪论
卷积层的作用是收集空间和信道信息，通过交错堆叠一系列的卷积层、非线性激活层、下采样层，卷积神经网络能够产生图像表示，这种是捕捉层次模式，获取全局感受场。计算机视觉的中心主题研究是寻找图片的有用表示。
本文研究了网络设计的信道之间的关系并引入一个新的体系结构单元SEblock。通过显式地建模其卷积特征的通道之间的相互依赖关系来提升网络表示的质量。 为此，本文提出了一种机制，允许网络执行特征重新校准。借助于这种机制，网络可以学会使用全局信息选择性地保留带有信息的特征并抑制不太有用的特征。
而SE块的作用便是将图片转化成特征图，H x W x C -> H x W。详细信息请见图一。留作后用！！
相关公式
1、Uc = Vc * X = ∑ Vc * X 其中X为输入。Vc为卷积，Uc为得到的特征图。
2、Zc = Fsq( Uc ) = ∑ ∑ Uc( i, j ) / (H * W), 这是全局平均池化，很容易理解，求均值。这也是squeeze 的含义。
3、s = Fex(z, W) = σ( g( z, W) ) = σ( W2 * δ( W1 * z) ) 这就是后续的非线性和全连接层的组合。
4、x = Fscale( Uc , Sc ) = sc * Uc,就是全局平均池化乘以对应的层，仅此而已！
SE模块的应用
与Inception 结合
与残差连接结合
网络结构参数详情
SE模块位置探究
标准的自然是最好的！！要不然为什么它是标准的呢？？
效果
网络效果
总之，本文是一个很不错的设计，希望各位同仁们批评指正，共同进步！
您的鼓励是对我前进的最大动力！！！