北京中科白癜风医院圆梦征程 http://www.bdfyy999.com/xinwenzhongxin/yiyuanxinwen/m/104690.html机器之心分析师网络作者:仵冀颖编辑:Joni本文通过四篇相关论文对自监督学习中的对比学习(ContrastiveLearning)进行了深入的探讨。自监督学习意思是使用非人工标记数据进行学习。在机器学习中,比较著名的自监督方法就是自然语言处理中的word2vec。由此可见,与无监督学习不同,自监督中仍然存在标记,只不过,这些标记不是人类参与生成的,而是从输入数据中生成的,通常可以使用启发式算法生成标记。而在机器视觉领域,自监督学习主要有两类方法,生成类方法(Generative)和区别类方法(Discriminative)。其中,生成类方法通过直接在输入空间中主动生成像素或建立像素模型来完成机器学习任务。区别类方法则是通过优化目标函数来学习潜在空间中的表征(Representation),利用学习到的表征来完成下游任务,比如对比不同的数据。在自监督方法中,区别类方法通过执行前置(pretext)任务训练网络,因此使用的用于训练网络的样本数据和标记数据一般都来自于未标记的数据集。前置任务是指用来学习视觉表征的自我监督学习任务,目的是对下游任务(也就是真正任务)使用在前置任务中获得的学习表征或模型权重。对比学习也是一种基于潜在空间的区别类自监督学习方法,近年来获得了越来越多的
转载请注明:
http://www.aideyishus.com/lktp/6793.html