深度学习基础--池化--Stochastic pooling(随机池化)

Stochastic pooling(随机池化)

计算过程

  1）先将方格中的元素同时除以它们的和sum，得到概率矩阵；
  2）按照概率随机选中方格；
  3）pooling得到的值就是方格位置的值。
  使用stochastic pooling时(即test过程)，其推理过程也很简单，对矩阵区域求加权平均即可。
  在反向传播求导时，只需保留前向传播已经记录被选中节点的位置的值，其它值都为0,这和max-pooling的反向传播非常类似。

求值过程的例子

  00+1.10.11+2.50.25+0.90.09+2.00.2+1.00.1+00+1.50.15+1.0*0.1=1.625
  说明此时对小矩形pooling后的结果为1.625。