要说到对比学习(Contrastive Learning),首先要从自监督学习开始讲起。自监督学习属于无监督学习范式的一种,特点是不需要人工标注的类别标签信息,直接利用数据本身作为监督信息,来学习样本数据的特征表达,并用于下游任务。
当前自监督学习可以被大致分为两类:
Generative Learning vs Contrastive Learning
Generative Learning(生成式方法)这类方法以自编码器为代表,主要关注pixel label的loss。举例来说,在自编码器中对数据样本编码成特征再解码重构,这里认为重构的效果比较好则说明模型学到了比较好的特征表达,而重构的效果通过pixel label的loss来衡量。
Contrastive Learning(对比式方法)这类方法则是通过将数据分别与正例样本和负例样本在特征空间进行对比,来学习样本的特征表示。Contrastive Learning主要的难点在于如何构造正负样本。
对比学习做为一种新兴热门深度学习算法,从起步逐步编程学术界和工业界研究的主流。本资源整理了最近几年对比学习相关论文,需要的朋友自取。
资源整理自网络,资源获取见源地址:
https://github.com/asheeshcric/awesome-contrastive-self-supervised-learning
论文列表