pytorch Dropout

减低过拟合,一般可以通过:加大训练集、loss function 加入正则化项、Dropout 等途径。本文的主要作用是展示dropout 的作用

设置Dropout时,torch.nn.Dropout(0.5), 这里的 0.5 是指该层(layer)的神经元在每次迭代训练时会随机有 50% 的可能性被丢弃(失活),不参与训练,一般多神经元的 layer 设置随机失活的可能性比神经元少的高。

问题:droupout如何丢弃神经元的?

参考:https://www.jianshu.com/p/636be9f8f046

https://blog.csdn.net/u014532743/article/details/78453990

发布了234 篇原创文章 · 获赞 61 · 访问量 12万+

猜你喜欢

转载自blog.csdn.net/weixin_42528089/article/details/103840911