关于Pytorch的parameters()里面,BN layer没有running_mean和running_var

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/zjucor/article/details/87199426

在Pytorch的parameters()里面,BN layer只有2个可学习的参数alpha和belta,没有running_mean和running_var这2个统计量

但是net.state_dict()是有running_mean和running_var的

因为running_mean和running_var不是可以学习的变量,只是训练过程对很多batch的数据统计

ref:https://discuss.pytorch.org/t/batch-norm-parameters-not-included-in-model-parameters/10265

猜你喜欢

转载自blog.csdn.net/zjucor/article/details/87199426