PyTorch节省显存占用方法

1-使用inplace操作

2-使用混合精度运算

参考：

[1]混合精度训练

http://kevinlt.top/2018/09/14/mixed_precision_training/

[2]pytorch节省显存小技巧

https://blog.csdn.net/yangyang_yangqi/article/details/88051462

[3]Pytorch有什么节省内存（显存）的小技巧

https://www.zhihu.com/question/274635237/answer/582278076?utm_source=wechat_session&utm_medium=social&utm_oi=42374529024000