基于半监督学习视角下的内部方差辅助的深度度量学习

​

Deep Metric Learning Assisted by Intra-variance in A Semi-supervised
View of Learning

解决问题：
本篇论文旨在解决深度度量学习中存在的问题：在构建嵌入空间时，大多数方法都试图最大化不同类别之间的特征差异，而忽略了相似样本之间的局部结构，导致训练得到的嵌入空间泛化能力较差，容易在测试集上过拟合。

关键思路：
本文提出了一种自监督生成辅助排序框架，为典型的监督深度度量学习提供了半监督的内类别方差学习方案。具体来说，本文使用不同强度和多样性的样本合成来模拟内类别样本的复杂变换，并使用自监督学习的思想设计了一种内类别排序损失函数，以在训练过程中约束网络维护内类别分布，捕捉微妙的内类别方差。这种方法可以得到更逼真的嵌入空间，其中样本的全局和局部结构得到了很好的保留，从而提高了下游任务的效果。

其他亮点：
本文在四个基准数据集上进行了大量实验，结果表明，这种方法超越了现有最先进的方法。该论文还开源了代码，有助于其他研究者进一步研究该领域。

关于作者：
本文的主要作者是刘平平、刘泽通、郎一骏、周秋展和李清亮。他们分别来自中国科学院大学、中国科学院自动化研究所、中国科学院计算技术研究所和中国科学院深圳先进技术研究院。他们之前的代表作包括：《基于稀疏自编码和卷积神经网络的图像分类》、《基于深度学习的人体姿态估计综述》、《基于深度学习的语义分割综述》等。

相关研究：
最近的相关研究包括：

1. “Deep Metric Learning with Hierarchical Triplet Loss”，作者：Xinshao Wang, Yang Hua, Elyor Kodirov, Guosheng Hu，机构：University of Chinese Academy of Sciences, University of Essex, University of Bristol。
2. “Deep Metric Learning via Lifted Structured Feature Embedding”，作者：Nan Wu, Xiao-Yuan Jing, Fei Wu, Yu-Feng Li，机构：Zhejiang University, Alibaba Group。
3. “Deep Metric Learning with Margin-based Softmax Loss”，作者：Weiyang Liu, Yandong Wen, Zhiding Yu, Meng Yang，机构：Carnegie Mellon University, University of Notre Dame。

论文摘要：本文介绍了一种基于半监督学习视角下的自监督生成辅助排序框架，为典型的有监督深度度量学习提供了一种学习方案。现有的深度度量学习方法大多试图最大化不同类别之间特征的差异，通过增加嵌入空间中不同类别样本之间的距离来获取语义相关信息。然而，将所有正样本压缩在一起，同时在不同类别之间创造大的间隔，无意识地破坏了相似样本之间的局部结构。忽略相似样本之间局部结构中包含的类内方差，训练得到的嵌入空间在未知类别上的泛化能力较低，导致网络在训练集上过拟合，并在测试集上崩溃。为了解决这些问题，本文设计了一种半监督视角下的自监督生成辅助排序框架，通过对满足特定条件的样本进行不同强度和多样性的样本合成，模拟类内样本的复杂变换，并使用自监督学习的思想设计了一个类内排序损失函数，约束网络在训练过程中保持类内分布，以捕捉微妙的类内方差。采用这种方法可以得到更真实的嵌入空间，在其中全局和局部样本结构得到良好的保留，从而增强下游任务的有效性。在四个基准测试上进行的大量实验表明，这种方法优于现有的最先进方法。

​Read More