从因果关系来看小样本学习-技术圈

作者 | 岳中琪

编辑 | 陈彩娴

来源 | AI科技评论

本文主要介绍一篇被NeurIPS 2020接受的论文《Interventional Few-Shot Learning》。

这篇工作根据小样本学习当中的因果关系，提出了一种新的基于因果干预的分类器IFSL，去除了预训练带来的掺杂效果，在各种方法上取得了稳定的提升。

主要的优势有：

广泛适用于各种基于微调（fine-tune）或是元学习（meta-learning）的方法，即插即用；
无需额外的训练步骤，原来模型咋训练，加上IFSL还是咋训练；
如果预训练数据集不公开，比如一些商用数据集只公开分类器和特征提取器，那么元学习的方法就不适用了，只能用微调。在这种情况下，IFSL还是可以大幅提高性能。

论文链接：https://arxiv.org/pdf/2009.13000.pdf

Github开源地址：https://github.com/yue-zhongqi/ifsl

论文第一作者：岳中琪，目前是阿里巴巴和新加坡南洋理工大学联合博士项目在读2年级，在MReal实验室进行迁移学习和因果关系方面的研究，导师是张含望老师。本科是由新加坡企业奖学金全额赞助、在南洋理工大学毕业。

小样本学习的介绍

2019年，Open AI Five以碾压的表现战胜了Dota2世界冠军战队OG，然而在这令人惊叹的表现背后，是12.8万个CPU和256块P100数个月训练的结果，相当于不间断练习了45000年的游戏。

很显然，目前一个鲁棒的机器学习模型还难以离开大量的数据、长时间的训练以及高昂的训练成本。而小样本学习就致力于通过极少的训练数据（1-5个样本/类）来实现模型的泛化。

那么，如何进行小样本学习呢？

这一点我们可以观察人是如何快速学习的。例如一个人玩策略游戏帝国时代很厉害，那么如果去学习诸如星际争霸的其他策略游戏，就比较容易上手，因为可以运用以前的游戏经验，一通百通。同样的，对于机器而言，在少量样本上快速泛化的核心，就是借助先验知识。

预训练是（Pre-training）大家都熟悉且非常有效的获取先验知识的方法。具体就是在大型数据集上，学习一个强大的神经网络作为特征提取器，例如CV里面常见的在ImageNet上预训练的ResNet网络，或是NLP里面在Wikipedia上训练的BERT，都代表一种特征表达的先验知识。

在预训练基础上，我们只需在样本数量少的目标任务中，微调部分（例如只训练最后一层fc分类器）或者全部网络的参数，便得到了一个可以解决小样本学习问题的模型。

预训练相当于给了小样本学习一个好的起点，就像一个人在上课前预习了大量的知识点。不过想要更上一层楼，还需要有效的学习方法。元学习（meta learning）的目的就是找到这种方法。

具体来说，我们可以从预训练集中，每次采样出来一个“沙盒”版小样本任务，例如选5个类，每个类选5张图片作为训练集（support set），再选15张作为测试集（query set），然后我们要求模型在support set训练的结果，能够在query set上面取得好的表现。

其实这种学习策略在我们身边随处可见，例如准备考试的时候，我们会提前做一些模拟测试，了解题型，规划答题节奏等等，这就是一种元学习。在小样本学习的实际操作中，我们可以使用元学习训练一个模型的初始化参数（MAML），或是一个分类器参数的生成网络（LEO）等等。

通过元学习得到的知识，就构成了一种学习方法的先验知识，在预训练的网络之上，进一步提升小样本学习的表现。

综上所述，小样本学习的解决思路，可以用下面这张图来概括：

我们先在一个大的数据集上面预训练一个特征提取网络，之后我们既可以直接使用在每一个小样本任务中微调(红色方块的Fine-Tuning);

也可以进一步使用元学习(Meta-Learning)，将拆成一个个由support set 和query set 组成的沙盒任务，训练高效的学习方法；

元学习结束以后，我们就可以用这种高效的学习方法，在小样本学习的任务中进行微调(绿色方块的Fine-Tuning)。

小样本学习的两种解决思路

亦正亦邪的预训练

预训练是小样本学习中一个核心的环节，无论是基于微调的，还是基于元学习的方法，都以预训练为开始。那么从常理来说，更强的预训练，应该会带来更好的小样本学习的表现，例如在现有文献中，使用更深层的神经网络架构WRN-28-10的微调结果，往往会比相对较浅的ResNet-10表现好很多。

然而我们在微调的实验中发现（见左边的直方图），虽然平均WRN-28-10（strong ）更好，但当query set和support set区别很大的时候，结果是恰恰相反的，浅层的ResNet-10反而表现更佳！这是为什么呢？

上图的右边是一个和区别很大的例子，其中预训练时候见过的草的颜色是support set里的一个误导因素，分类器容易踩坑，以草的颜色（见过）而非动物本身（没见过）作为分类依据。

而越强的预训练模型，这些见过的草，相比于没见过的动物，就会产生越鲁棒的特征，对于分类器就更加误导了，聪明反被聪明误。

为什么这个问题一直没有被发现呢？

其实就是因为被现有方法基于随机取样后平均的评估策略所掩盖了。

我们的工作也首次为这个现象提供了解释。

具体来说，刚才讲的这个悖论是由小样本学习当中的因果关系造成的。预训练在带来丰富的先验知识的同时，也成了学习过程中的一个混杂因子（confounder），使得分类器难以找到样本特征和样本标注之间真实的因果关系。我们用一张因果图来具体说明。

: 这里代表预训练的先验知识，代表图片的特征表示，箭头的意思是，我们用预训练得到的特征提取器，获得样本的特征.
: 其中C代表一个样本X在预训练数据流形上面的投影；一个例子是eigenface，我们将高维的训练集（），通过PCA找到这些图片的基（也就是eigenface），这样一张人脸图片（），就可以被表示成这些基的线性组合，而线性组合的系数就是。类似的现象在深度学习的训练中也会出现，具体可以参考我们论文里面的引用。
: 当我们用特征训练一个分类器预测标签的时候，分类器会不可避免的使用里面的信息；也就是说是特征里面低维度信息的影响，而是里没有包含的冗余信息带来的影响。

在这个因果图中，注意到是和的共因（），这样被叫做和的混杂因子，从而导致观测到的，被混杂的关系污染，而不能反映和间真实的因果关系了，刚才分类器被草的颜色迷惑的原因，其实就是分类器使用了里“草”的语义信息，作为分类狮子的依据。

那么当存在混杂因子的时候，我们应该如何学习真实的因果关系呢？这就要用到干预（intervention），即。干预会切断因果图中所有指向的箭头（如下图），这样之前产生混杂的这条路被堵住了，我们就能安全的学习想要的因果关系了。

我们的这篇工作使用后门调整(backdoor adjustment)来实现，我们的因果图对应的后门调整是：

具体来说，就是对预训练的知识

进行分层（见图中的

），每一层有自己的分类器

，然后把每层分类器的结果通过先验概率

平均起来。

关于混杂因子、干预和后门调整的具体介绍，大家可以参考一下我们组王谭写的《无监督的视觉常识特征学习——因果关系上的一点探索》（CVPR 2020）（论文链接：https://zhuanlan.zhihu.com/p/111306353）。

基于干预的去混杂

预训练在带来特征表达的先验知识的同时，也成为了混杂因子而迷惑了分类器的训练，而我们打算通过对预训练知识分层，然后用后门调整来找到和之间真实的因果关系。下面讲具体如何实现分层和后门调整。

我们是从预训练的神经网络所自带的两个属性来寻找分层的灵感的：1）特征维度，例如ResNet-10是512维的特征，每一个维度代表CNN里面的一个通道，对应了图片中的一些视觉信息；2）预训练的类别，例如在miniImageNet上预训练所使用的64个类，那么预训练所得到的64类分类器，就可以看作对预训练数据集知识的一种蒸馏(knowledge distillation)。

基于这些灵感，我们提出了三种不同的实现方案，分别是基于特征的调整(feature-wise adjustment)，基于类别的调整(class-wise adjustment)以及两种结合起来(combined adjustment)。具体这三种调整是如何对应后门调整公式的，大家可以参考论文第三章，这里我只是讲一下具体的实现。

基于特征的调整：将特征向量劈成等份，在每一份对应的维度里学一个分类器，最终是把个分类器softmax后的概率算个平均。例如把ResNet-10的512维分成4份，每128维为一份，学习4个分类器；
基于类别的调整：首先我们在预训练的个类中，各自算一个平均特征，即把所有属于这个类的图片特征平均一下；对于任务当中的一个样本特征，我们用预训练的分类器算出这个样本属于个类的概率，使用和，我们能算出来一个新的特征向量 ;然后我们把原始特征和这个拼起来，用来训练分类器，注意这里只训练了一个分类器，不过分类器输入的维度是维度的二倍；
结合调整：相当于先做基于类别的调整，再做基于特征的调整。还是以ResNet-10和N=4为例子，对于每一个样本，我们算出以后，把和各自劈成4份，然后一一对应的拼起来（比如的前128维拼上的前128维），然后训练4个分类器，同样是把4个分类器的输出概率算个平均。