本文针对自己阅读文献资料做的笔记：
目录：
1.为什么会有self-supervised？
2.什么是self-supervised？
1.为什么会有self-supervised？
为了利用深度网络进行有监督学习时，我们需要大量有标签的数据。而现实生活中，有很多领域的有标签数据很少，而我们只能通过类似人工标注的方法获得相对应的大量标记数据，该过程是非常耗时耗力。相反，无标签的数据在当今信息时代是非常多的，而如何将这些数据合理应用以服务于我们的生活则显得格外重要，所以self-supervised近几年的快速发展也就水到渠成了。
2.什么是self-supervised？
self-supervised learning是一种将无监督学习问题以构建pretext tasks的形式来形成pseudo label以“监督”网络的训练。
以self-supervised的方式学习训练一个具有较好特征表示能力的网络后，可在其基础上，加入其他的下游任务，如分类任务：
—https://amitness.com/2020/02/illustrated-self-supervised-learning/