pytorch 显存逐渐增大

在训练过程中,显存随着batch的增加而增大,特别是在预测的时候.

这时候可能是因为在训练过程中存储的数组是添加的而不是覆盖的.例如在预测过程中将所有结果逐渐添加保存到一个list中,导致list越来越大,占用的显存越来越多,从而导致oom或者卡死现象.

如果一定要使用添加数组,可以考虑使用np.save分布存储,再使用np.load读取,这样就不会添加进显存.

使用

torch.cuda.empty_cache() 可以清除没有用的显存占用.

不过在上述的情况下 可能没有用.