深度学习中loss不下降的原因——os.listdir()读取文件无序

深度学习中loss不下降的原因

其他原因就不赘述了,各种博客讲得很全面,这里记录困扰了我一周多的一个问题。

问题描述

除路径外代码完全相同,在windows下可以正常训练,但是在linux下loss总会收敛到某个值,不能正常训练。

问题原因

由于代码在2个平台的结果不一致,所以分析可能是某些地方的实现在windows和linux的结果不同,追溯之前的代码,进行无数次实验发现,我的dataset类在某次更新之后使用了os.listdir()进行数据的读取,而os.listdir()就是问题的罪魁祸首。

问题解决

经查询,发现os.listdir()在windows和linux的结果确实不同,windows返回的结果是有序的,但是linux返回的结果是无序的,所以造成了样本与标签不对应的情况,于是loss就会停留在一个固定的值。

参考:
踩坑记:Linux下os.listdir()读取文件夹内文件乱序

猜你喜欢

转载自blog.csdn.net/qq_45510888/article/details/120964162
今日推荐