详解目标检测之Neck选择

极市平台

共 4826字,需浏览 10分钟

 ·

2021-01-28 22:14

↑ 点击蓝字 关注极市平台

作者丨曲終人不散丶@知乎(已授权)
来源丨https://zhuanlan.zhihu.com/p/342011052
编辑丨极市平台

极市导读

 

Neck是目标检测框架中承上启下的关键环节。它对Backbone提取到的重要特征,进行再加工及合理利用,有利于下一步head的具体任务学习。本文按照Neck的六种分类顺序对主流Neck进行阶段性总结。>>加入极市CV技术交流群,走在计算机视觉的最前沿

Neck是目标检测框架中承上启下的关键环节。它对Backbone提取到的重要特征,进行再加工及合理利用,有利于下一步head的具体任务学习,如分类、回归、keypoint、instance mask等常见的任务。本文将对主流Neck进行阶段性总结。

总体概要

根据它们各自的论文创新点,大体上分为六种,这些方法当然可以同时属于多个类别。

  1. 上下采样:SSDhttps://arxiv.org/abs/1512.02325) (ECCV 2016)
    STDN(https://openaccess.thecvf.com/content_cvpr_2018/html/Zhou_Scale-Transferrable_Object_Detection_CVPR_2018_paper.html) (CVPR 2018)
  2. 路径聚合:DSSDhttps://arxiv.org/abs/1701.06659) (Arxiv 2017),
    FPNhttps://openaccess.thecvf.com/content_cvpr_2017/html/Lin_Feature_Pyramid_Networks_CVPR_2017_paper.html) (CVPR 2017),
    PANethttps://openaccess.thecvf.com/content_cvpr_2018/html/Liu_Path_Aggregation_Network_CVPR_2018_paper.html) (CVPR 2018),
    Bi-FPNhttps://openaccess.thecvf.com/content_CVPR_2020/html/Tan_EfficientDet_Scalable_and_Efficient_Object_Detection_CVPR_2020_paper.html) (CVPR 2020),
    NETNethttps://openaccess.thecvf.com/content_CVPR_2020/html/Li_NETNet_Neighbor_Erasing_and_Transferring_Network_for_Better_Single_Shot_CVPR_2020_paper.html) (CVPR 2020)
  3. NAS搜索:NAS-FPNhttps://openaccess.thecvf.com/content_CVPR_2019/html/Ghiasi_NAS-FPN_Learning_Scalable_Feature_Pyramid_Architecture_for_Object_Detection_CVPR_2019_paper.html) (CVPR 2019)
  4. 加权聚合:ASFFhttps://arxiv.org/abs/1911.09516) (Arxiv 2019), Bi-FPN
  5. 非线性聚合:Feature Reconfigurationhttps://openaccess.thecvf.com/content_ECCV_2018/html/Tao_Kong_Deep_Feature_Pyramid_ECCV_2018_paper.html) (ECCV2018, TIP 2019)
  6. 无限堆叠:i-FPNhttps://arxiv.org/abs/2012.13563) (Arxiv 2020)

上下采样

该方法的特点是不具有特征层聚合性的操作,如SSD,直接在多级特征图后接head。

SSD

STDN是基于SSD的模型,其思想是构造法。由于STDN使用了DenseNet作为主干,因此后面的特征图在尺寸上是相同的,所以需要构造出各种大小的特征图来检测不同大小的物体。中间尺寸特征图直接使用,大尺寸特征图以尺寸变换层上采样获得,小尺寸特征图以池化获得。

STDN
拼图式尺寸变换,每四张小特征图拼成一张大特征图

路径聚合

该方法基于一个最基本的观察:深层特征图尺寸小,经过层层卷积下采样使得小物体的信息严重丢失,所以深层不利于小物体检测,就将小物体检测交给浅层来做。这也是为什么SSD需要多级head的原因。

然而光是这样还不够,由于深层特征图具有非常丰富的语义信息,那么最好把深层特征再往浅层传,以增加浅层语义信息。于是乎就诞生了最为人所熟知的FPN。在如何上采样方面,FPN使用最邻近上采样,当然还有使用反卷积的DSSD。

FPN与DSSD

这类方法的共性就是反复利用各种上下采样、拼接、点和或点积,来设计聚合策略。可改进的点还包括加上Deformable Conv、Attention、门控机制、跨FPN level的label assignment等,都已有文章。

比较特殊的还有一种名为NETNet (CVPR 2020)的方法,其认为上述路径聚合方案无论怎么设计,对于预测小物体而言,大物体的特征一直存在,因为高层语义信息被传了下来,再加上其本身浅层自带的大物体特征,这对小物体来说会是一种干扰,如下图所示。

小物体在相应的特征图中并不突出

因此需要人为地进行干预,为浅层消除大物体特征。

思路也很简单,随着下采样的进行,小物体特征会丢失,那么深层必然已经都是大物体的特征。此时对深层上采样,得到的还是大物体特征,再把原来的浅层减去经过上采样的深层,于是浅层就不再有了大物体的特征。那么小物体的特征将被突出化。

同样的,被消除的大物体特征也可以进一步被传输到合适的层,以增强大物体的检测。

对小物体确实改进比较显著,值得一试。

NAS搜索

NAS-FPN

即利用神经网络搜索方法来搜索合适的聚合路径,但是搜索的时间成本极高,且数学可解释性低。最新的研究已表明,人工设计的路径聚合在精度上亦可超过NAS搜索出来的结构 (大力出奇迹)。

加权聚合

顾名思义,简单的聚合对所有参与的特征层都是一视同仁的,而实际上,这些来自不同层级的特征图对于单个物体而言,必然只有某一个是最适合检测它的。因此对聚合进行加权就显得尤为重要。

ASFF引入了可参与训练的加权因子来体现不同层级特征图的重要性。

加权公式为  ,其中加权因子  求和为1,即对所参与的特征图先调整到同样尺寸,然后对每个像素点进行加权。

Bi-FPN也有类似的操作,区别在于其简单地使用标量进行加权,  ,并且在限制加权因子求和为1方面,使用快速归一化,而非费时的Softmax操作。

非线性聚合

以上这些方法,都可以视为线性聚合操作。首先,让我们用一些简单符号来描述一下聚合过程。

给定特征金字塔的不同层特征图  ,SSD会从某个层开始,选择  层后接head.

接下来以FPN为例,最高层  聚合后仍然是它本身,所以  . 接下来是第二高层  ,它等于原来的  与新的  按照一定的方式进行聚合。最后完整的聚合可以表达为如下的过程:

这里的  以及  都是特定的线性操作,比如不带有激活函数的卷积,  卷积,双线性插值上采样,最邻近上采样,反卷积等。

因此FPN以及其他的路径聚合法,都可视为是线性聚合。于是在《Deep Feature Pyramid Reconfiguration for Object Detection》一文中,作者建立了一种非线性聚合法。

先把所有的层级特征图放在一起,然后学习多个非线性映射  .

非线性映射的学习模仿SENet的方法,带有注意力的味道。

无限堆叠

EfficientDet通过重复堆叠多个Bi-FPN block来获得性能的提升。

显然这样的操作会造成大量的计算开销与显存占用。

那么有没有更好的方法呢?当然有,比如权重共享,即只使用一个FPN block,backbone提取到的特征图会反复经过这个block,由于权重共享,显存占用很少,参数量也少,但是计算量仍然随着重复的次数而增加,因为每迭代一次,对该block的更新最终都需要增加一次反向传播。

但是上述过程有一个有趣的现象,就是当重复计算的次数趋于无穷多次时,这个FPN block的参数会收敛到一个固定点,即特征平衡态。那么如何利用有限次前向传播即可求解这样的网络参数固定点呢?就是《Deep Equilibrium Models》(曲終人不散丶)(NeurIPS 2019) 的厉害之处了。只要我们求得了该固定点,我们就直接得到了单个block重复前后向传播无数次的结果。

下面把最精华的部分提取出来描述:

给定一个FPN block的网络  ,  是它的网络参数点,backbone提取到的多级特征  , 以及一系列初始化的特征金字塔  ,上标为0表示还没开始迭代。

这个  的选择有多种,如FPN,PANet,Bi-FPN,Dense-FPN等,最终输出的也是多级特征金字塔,每一级后面接head. 由于权重共享,上述过程重复多次,那么第  次的输出就是

于是当重复无穷多次时,多级特征图收敛到固定值 

假如你选择迭代10次,就会得到10次多级特征图,依据链式求导法则,你就得更新10次这个block的网络参数  ,这是极为耗时的,且增加了内存开销,因为你需要存储中间的每一次输出。

现在事后诸葛亮一波,假如我已经迭代了1000次,可以认为此时的多级特征图已经是收敛到固定点了,误差很小。DEQ提出反向传播一次就够,即直接使用有关于这个固定点的雅克比的逆来反向传播。即利用它可以直接对一个还没开始迭代的block进行更新。

现在改写一下,把优化  改为优化  ,显然这个固定点就是这个方程的根,即 .

那么如何求这个固定点  ?你可以采用拟牛顿法,或者任何其他的求根法,通过多次迭代,得到满足给定误差以内的近似的  .

然后再使用  来反向传播,一次解决所有梯度回传。

i-FPN的思想就源于此,《Implicit Feature Pyramid Network for Object Detection》一文将其应用至目标检测的Neck中。作者以Dense-FPN为基础。

可以看到i-FPN相比较于迭代4次权重共享的block的方法来说,可以获得更好的性能。

就总结到这,如有错误,欢迎指正。


推荐阅读



    添加极市小助手微信(ID : cvmart2),备注:姓名-学校/公司-研究方向-城市(如:小极-北大-目标检测-深圳),即可申请加入极市目标检测/图像分割/工业检测/人脸/医学影像/3D/SLAM/自动驾驶/超分辨率/姿态估计/ReID/GAN/图像增强/OCR/视频理解等技术交流群:月大咖直播分享、真实项目需求对接、求职内推、算法竞赛、干货资讯汇总、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企视觉开发者互动交流~
    △长按添加极市小助手

    △长按关注极市平台,获取最新CV干货

    觉得有用麻烦给个在看啦~  
    浏览 132
    点赞
    评论
    收藏
    分享

    手机扫一扫分享

    分享
    举报
    评论
    图片
    表情
    推荐
    点赞
    评论
    收藏
    分享

    手机扫一扫分享

    分享
    举报