博士论文 | 通过多视图对比学习实现通用视觉 227页

740次阅读
没有评论

博士论文 | 通过多视图对比学习实现通用视觉 227页

表征学习在构建鲁棒的通用视觉学习器中起着关键作用,也是一个长期存在的问题。随着我们这个时代数据的持续爆炸,它变得越来越有趣。然而,大多数以前的方法都是基于特定的策略设计,不能一概而论。本文提出并研究了基于一个简单的数学原理的多视对比学习(MCL),即区分来自联合分布的样本和来自边际乘积的样本。本文首先介绍了多视对比学习的一般框架。我们证明了这个简单的框架能够处理各种表示学习问题,并且经常将艺术的状态提高到一个新的水平。然后,我们进一步尝试从信息论的角度理解视图选择在多视图对比学习中的作用,并且通常可以将现有技术提高到一个新的水平。 然后,我们尝试从信息论的角度理解视图选择在多视图对比学习中的作用,并提出“InfoMin”原则,该原则连接到最小的充分统计量和信息瓶颈。该原则进一步 通过监督对比学习证明了这一点,它可以与标准图像分类基准上的监督交叉熵学习相媲美甚至击败。在最后一部分中,我们将多视图对比学习扩展到标准问题或设置之外。我们讨论了多视图对比学习的一种新颖应用,即 ,知识蒸馏,并提出了第一个提高开放式非策划场景中对比学习效率的工作。

博士论文 | 通过多视图对比学习实现通用视觉 227页

论文题目:Towards General-purpose Vision via Multiview Contrastive Learning

作者:Yonglong Tian

类型:2023年博士论文

学校:Massachusetts Institute of Technology美国麻省理工学院)

下载链接:

链接: https://pan.baidu.com/s/1TShQNZcMuc5PPrGmNaLB8Q?pwd=sqam

硕博论文汇总:

链接: https://pan.baidu.com/s/1Gv3R58pgUfHPu4PYFhCSJw?pwd=svp5


博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

博士论文 | 通过多视图对比学习实现通用视觉 227页

微信群                  公众号

博士论文 | 通过多视图对比学习实现通用视觉 227页博士论文 | 通过多视图对比学习实现通用视觉 227页

 

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy