ECCV 2020,如何简单有效地实现迁移学习?


“15分钟看顶会”是旷视研究院全新推出的论文快速解读专栏,聚焦旷视在全球各大顶会、期刊等平台所发表的工作,覆盖深度学习、计算机视觉、视觉导航与控制、计算摄影学、大规模机器学习系统、机器人学等方向。

与传统论文视频解读动辄30min时长不同,本专栏尽可能将时间控制在15分钟左右,以方便读者在日常通勤、等待、出行等时间受限的场景下高效利用碎片化时间进行学习、交流。

欢迎大家和我们一起“深度学习”,也欢迎对这种论文解读方式提出您的宝贵建议。

本期是“15分钟看顶会”专栏 ECCV 2020 论文解读系列的第六篇,旷视研究院通过在迁移学习领域进行创新,提出一种在归一化后的特征空间,通过迁移进行数据增强的方法,简单且有效。

  • 论文题目:

    Spherical Feature Transform for Deep Metric Learning

  • 论文链接:
    https://arxiv.org/abs/2008.01469

  • 关键词:数据增强、迁移学习

传统来说,在特征空间内做迁移学习的方法,会假设不同类别的特征服从方差相同的高斯分布。如果定义特征的“偏移量”为特征向量与类别均值向量的差值,那么传统的迁移方法简单地把“偏移量”叠加到另一个类别的均值上。

本文发现,当特征被归一化后,即被约束到超球面上后,传统的迁移方法无论是基本假设还是迁移的方法都已经不成立。基于directional statistics,本文改进原有的“相同方差”假设为更符合球面分布特性的“相似方差”,进而提出了更适用的spherical feature transform,用于超球面上的特征迁移学习,且证明了传统的方法是本文提出方法的一种特例。

最后,本文还对所提出的迁移方法在人脸识别,度量学习等数据集上进行了大量的实验和分析,展现和证明了该方法的有效性。

同学们还可以点击阅读原文,浏览《ECCV 2020 旷视研究院15篇成果总览》,了解更多顶会论文内容。

入群交流

     

传送门 

实习简历请投递至:ur@megvii.com

欢迎大家关注如下 旷视 官方微信号????


已标记关键词 清除标记