1. DropBlock: A regularization method for convolutional network
主要提出对于卷积网络正则化的dropout方法DropBlock,指出传统的dropout方法只能够丢弃特征图中的离散点,但是其丢弃的信息可以由附近的信息补充,不能达到正则化的效果。DropBlock能够丢弃特征图中某点附近的连续点,即丢掉一块信息,在残差网络中实验,分类精度有所提升。
2. Associative Domain Adaptation
用神经网络解决端到端域适应问题:从有标签的源域学习,模型可以应用到目标域;具体来说:将源域和目标域映射到潜层空间,在潜层空间中通过两个域的嵌入学习域不变性特征。
本文方法的关键在于优化联合损失:
- 源域的分类损失;
- 源域和目标域嵌入的关联损失;
本文是一种半监督学习,因为源域有标签,目标域没有标签,这种利用有限的带标签数据数据来训练模型,同时最小化在目标域上的测试误差,就叫做域适应。