RNN softmax函数 交叉熵损失公式的反向传播

RNN网络中,如果某一步骤有输出值,可采用交叉熵定义其损失函数,下面推导了单步传播时,由y_hat(输出值),y(标签)反向传播时的误差传播公式。按照大叔惯例,依然手动,欢迎交流
在这里插入图片描述
在这里插入图片描述
求得了RNN步传播误差后,就可以进行单步反向传播的推导了。

发布了7 篇原创文章 · 获赞 0 · 访问量 97

猜你喜欢

转载自blog.csdn.net/weixin_45316967/article/details/104676573
今日推荐