深度学习花书学习笔记 第十五章 表示学习

本章的表示学习主要就是通过无监督训练学习特征的意思。

这种没有具体的算法,就是介绍表示学习的应用和大概的分支,至于如何进行表示学习,没有详细介绍。感觉可以直接跳过。。

贪心逐层无监督预训练

贪心算法在无监督训练中的应用,每层只关心当前,进行训练。

无监督指低层训练的网络在训练高层时不会改变。

后面就是通过实验证明无监督预训练好。。。

迁移学习和领域自适应

监督学习的应用场景介绍。

半监督解释因果关系

生成对抗网络的好处。。

分布式表示

通过分布式将输入空间分成多个区域。主要理解就是类似将一个物体通过多个特征表示出来。可以进行类似word2vec的计算。通过一个戴眼镜男人减去一个男人加上一个女人的照片,得到戴眼镜女人的照片。即将样本的生成方式变成分布式。

得益于深度的指数增益

一样,深度增加,网络的表示能力时指数及增加的。

提供发现潜在原因的线索

感觉就是介绍一些表示学习的先验吧,如样本通常变化平滑、流形表示、层次组织等。

感觉这章价值不大,可能我没用到吧还。。

发布了40 篇原创文章 · 获赞 22 · 访问量 4万+

猜你喜欢

转载自blog.csdn.net/liutianheng654/article/details/83685614
今日推荐