遮挡人脸问题 | 详细解读Attention-Based方法解决遮挡人脸识别问题(附论文下载)

AI人工智能初学者

共 3625字,需浏览 8分钟

 ·

2021-06-16 12:25

1简介

在非约束性环境(如大量人群)中捕获的人脸照片,仍然对当前的人脸识别方法构成挑战,因为人脸经常被前景中的物体或人遮挡。然而,很少有研究涉及到识别部分面孔的任务。

本文提出了一种新的遮挡人脸识别方法,能够识别不同遮挡区域的人脸。通过将一个ResNet中间特征映射的attentional pooling与一个单独的聚合模块相结合来实现这一点。为了保证attention map的多样性,并处理被遮挡的部分,作者进一步对遮挡Face的常见损失函数进行了调整。实验表明,在多个benchmark下本文方法的性能优于所有baseline。

本文工作贡献可以概括为以下几点:

  • 以ResNet为例,利用attentional pooling和聚合网络提出了一种新的扩展,并使用2种适用于部分FR的常见损失函数进行训练;

  • 在多个局部FR的详尽分析中表明,本文的改进大大提高了识别性能。

2方法

2.1 Network Architecture

下图描述了partial FR方法,分为3个模块:Extract、Attend和Aggregate。

Extract模块从输入图像中提取特征图和attention maps  ,其中K表示attention maps的个数。

在Attend模块中,使用重新校准的attention maps将特征图合并为K个中间特征向量。

Aggregate模块将这些中间特征向量映射到联合特征空间中,得到最终特征向量$f\in R^{256}。

1 Extract

受Comparator networks启发,作者使用了一个删减的ResNet-50架构,它在第4个block之后结束。因此,只进行了3次空间降采样,得到了大小为20×20的特征图,其中区域仍然具有很好的可区分性。与Comparator networks不同的是,在第3个block之后分离ResNet,以允许2个分支专注于各自的任务。而在第4个block之后直接得到F,然后再加上一个1×1的卷积以及ReLU激活函数获取a。具体架构总结如表1所示。

生成的attention maps应满足以下2个关键属性:

  1. attention maps应是互斥的,即不同的attention maps聚焦于人脸图像的不同区域;
  2. attention maps的激活与区域的可见性相关。

值得注意的是,implicitly-defined attention maps激活并不一定遵循人类定义的面部标志(如眼睛或鼻子)的直觉。

2 Attend

和Comparator networks一样,attention maps A需要重新校准。Xie等人提出了基于集的FR归一化A的attentional pooling方法,对集合内的所有图像分别进行归一化,从而确保从A中激活程度最大的图像中提取出各自的信息。

本文作者只考虑一个单一的图像,并期望不同的attention maps是相关的,因为这些主要取决于脸部的区域,即,如果眼睛被遮挡,相应的attention maps应该包含低激活值。因此,建议使用无参数的重新标定:

首先,用sigmoid函数对A进行normalize。这样,每个attention maps的每个像素分别归一化为(0,1);此外,先使用Global Average Pooling (GAP),然后使用,计算一个向量$s\in R^K}表示每个attention maps的重要性:

索引表示第个attention maps的第行和第列的像素。通过引入GAP获得了所有attention maps的全局信息,并利用softmax函数将其转化为指示各attention maps重要性的概率分布。接下来,将第个自归一化的attention maps 与其相应的重要性相乘,得到最终的重新校准的attention maps

因此,在重新校准中将每个attention maps中的局部信息与跨attention maps的全局信息结合在一起。

重新校准后,应用attentional pooling,得到K个特征描述子:

这样,第个特征描述符中就包含了对应attention maps 激活时的信息。

3 Aggregate

用Aggregate模块来总结partial FR模型。由于所有的特征描述符依赖于它们对应的attention maps 聚焦于内的不同区域,所以不可能进行直接聚合。因此,将每个分别映射到一个联合特征空间,每个使用一个单独的全连接层。

注意,由于每个都在不同的特征空间中,所以权重不是共享的。由于同样对身份信息进行编码,所以通过计算平均值得到最终的特征向量:

2.2 Loss Functions

为了训练模型,作者使用3个损失的加权和,其描述如下:

表示超参数来平衡损失,为所有可训练权重的范数。

1 Weighted Cross-Entropy

为了处理一些代表被遮挡区域的向量,从而降低相关性,作者提出了一种加权的softmax CrossEntropy(CE)。对于CE损失添加一个全连接层到每个特征向量匹配训练数据集中类的数量。通过这种方法得到了K CE损失。为了得到最终加权CE损失,对每个及其重要性进行了scale:

通过这种方式,该网络学习强调代表可见人脸区域的attention maps,同时减轻代表遮挡区域的attention maps的影响。需要注意的是,由于最后一个全连接层的权值是共享的,所以每个的转换是相等的,因此,要保证它们同样编码身份信息,即位于相同的特征空间。此外,由于训练数据集中有大量的类,作为瓶颈层提高了网络的泛化能力。

2 Weighted Diversity Regularizer

多样性正则化的目的是确保attention maps的多样性,因为如果不进行正则化,网络容易倾向于只使用一个attention maps或生成K个相同的attention maps。因此作者使用多样性正则化算法来惩罚不同attention maps之间的相互重叠。首先,使用softmax函数将每个attention maps 自归一化为概率分布:

接下来,计算所有的像素级最大值,并得到所有像素的和。对于互不重叠的attention maps,这个和接近于1,可以计算加权多样性损失如下:

3实验

表2描述了LFW数据集上不同benchmark protocols的聚合精度。当考虑一个ResNet-50(没有微调),它在训练期间从未暴露于部分脸,可以观察到标准FR模型非常容易受到partial faces的影响。通过对partial faces进行微调,该模型在partial protocols上表现得更好。ResNet-50在非non-centered protocols上的性能优于ResNet-41,但在centered protocols上的性能较差。作者认为这是由于ResNet-50包含更多可训练参数。因此,由于中心不是数据扩充的一部分,它更容易对训练过程中呈现的空间信息进行过拟合。

在图中,中心部分面非遮挡区域a的影响:partial - cross protocol。虽然识别左眼-右眼的准确性只受到a的轻微影响,但验证左眼-嘴是否属于同一身份被认为是最具挑战性的。总的来说可以得出结论,本文模型比所有centered: partial-cross的baseline更稳健。

4参考

[1].ATTENTION-BASED PARTIAL FACE RECOGNITION
[2].https://github.com/stefhoer/PartialLFW

5推荐阅读

效率新秀 | 详细解读:如何让EfficientNet更加高效、速度更快


Tansformer | 详细解读:如何在CNN模型中插入Transformer后速度不变精度剧增?


最强Transformer | 太顶流!Scaling ViT将ImageNet Top-1 Acc刷到90.45%啦!!!


本文论文原文获取方式,扫描下方二维码

回复【PFR】即可获取论文

长按扫描下方二维码添加小助手并加入交流群,群里博士大佬云集,每日讨论话题有目标检测、语义分割、超分辨率、模型部署、数学基础知识、算法面试题分享的等等内容,当然也少不了搬砖人的扯犊子

长按扫描下方二维码添加小助手。

可以一起讨论遇到的问题

声明:转载请说明出处

扫描下方二维码关注【集智书童】公众号,获取更多实践项目源码和论文解读,非常期待你我的相遇,让我们以梦为马,砥砺前行!


浏览 94
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报