1，矩阵相除导致
在做文本分类时，迭代过程中，训练集和验证集上的loss变成nan。debug发现，由于文本预处理后，有些句子长度变为0，所以在对句子输出归一化时，出现nan。
因此，模型中有矩阵相除操作时，最好加一个无穷小的数，防止分母为0的情况
训练loss变成nan
猜你喜欢
转载自blog.csdn.net/bingmeishi/article/details/105159194
今日推荐
周排行