NUS颜水成等发布首篇《深度长尾学习》综述

论文链接：https://arxiv.org/abs/2110.04596‍

摘要

引言

深度学习允许由多个处理层组成的计算模型学习具有多级抽象[1]、[2]的数据表示，并在计算机视觉[3]、[4]、[5]、[6]、[7]、[8]方面取得了令人难以置信的进展。深度学习的关键因素是大规模数据集的可用性、GPU的出现和深度网络架构[9]的进步。深度神经网络具有很强的学习高质量数据表示的能力，在图像分类[6]、[10]、目标检测[7]、[11]和语义分割[8]、[12]等视觉识别任务中取得了巨大的成功。

在实际应用中，训练样本通常表现为长尾类分布，其中一小部分类有大量的样本点，而其他类只与少数样本[13]，[14]，[15]，[16]相关。然而，这种训练样本数量的类不平衡，使得基于深度网络的识别模型的训练非常具有挑战性。如图1所示，训练后的模型容易偏向训练数据量大的头类，导致模型在数据量有限的尾类上表现不佳。因此，经验风险最小化[20]常用实践训练的深度模型无法处理长尾类不平衡的现实应用，如人脸识别[21]，[22]，物种分类[23]，[24]，医学图像诊断[25]，城市场景理解[26]，无人机检测[27]。针对长尾类的不平衡，近年来开展了大量的深度长尾学习研究，包括[15]、[16]、[28]、[29]、[30]。尽管这一领域发展迅速，但仍没有系统的研究来回顾和讨论现有的进展。为了填补这一空白，我们旨在对2021年年中之前进行的近期长尾学习研究进行全面综述。

如图2所示，我们根据现有方法的主要技术贡献将其分为三类，即类重平衡、信息增强和模块改进; 这些类别可以进一步分为九个子类别:重采样、代价敏感学习、logit调整、迁移学习、数据增强、表示学习、分类器设计、解耦训练和集成学习。根据这一分类，我们对现有的方法进行了全面的回顾，并对几种最先进的方法进行了实证分析，使用一个新的评价指标，即相对准确性来评价它们处理类不平衡的能力。我们通过介绍几个真实的深度长尾学习的应用场景，并确定了几个有前景的研究方向，可以由社区在未来探索。

我们总结了这项综述的主要贡献如下。 

• 据我们所知，这是第一次对深度长尾学习的全面调研，将为研究人员和社区提供对深度神经网络的长尾视觉学习的更好理解。 

• 我们提供了对高级长尾学习研究的深入回顾，并通过一个新的相对准确性度量来评估它们在多大程度上处理长尾类别失衡，以实证研究最先进的方法。 

• 我们为未来的研究确定了四个潜在的方法创新方向以及八个新的深度长尾学习任务设置。

第二节介绍了问题的定义，并介绍了广泛使用的数据集、度量和网络骨架。第3节全面回顾了先进的长尾学习方法，第4节基于一个新的评价指标实证分析了几种最先进的方法。第5节给出了深度长尾学习的应用场景，第6节给出了未来的研究方向。我们在第7节结束调研。