极市沙龙回顾|CVPR2021-李铎:通过反转卷积的内在性质进行视觉识别

共 2160字,需浏览 5分钟

 ·

2021-04-03 22:12

↑ 点击蓝字 关注极市平台

作者丨李铎
编辑丨极市平台

上周六,由极市平台与中国图象图形学学会联合举办的第三期极市CV开发者沙龙活动圆满结束。

本次线下沙龙的主题为CVPR2021论文研讨会。我们邀请了三位CVPR2021接收论文作者,他们分别是来自香港科技大学李铎、来自悉尼大学顾津锦以及来自华南理工大学戴志港

三位嘉宾在本次线下沙龙中完成了三场非常优质的分享,不仅为大家分享了他们发布于CVPR2021论文的工作细节与成果,还为大家讲述了CVPR2021论文工作成果和心得。同时,还与现场的同学针对多个延伸问题进行了讨论。沙龙结束后,大家纷纷表示收获颇丰。

为了让更多开发者了解本次三位分享嘉宾的优秀工作,极市对本次分享的三个报告内容进行了整理。在接下来的几天中,我们会将这三位嘉宾的分享在极市平台公众号陆续发布。

本文是对本次沙龙第一位嘉宾李铎的报告整理,他为我们分享的是他发布今年CVPR2021的工作:

Involution: Inverting the Inherence of Convolution for Visual Recognition (CVPR2021)

通过反转卷积的内在性质进行视觉识别)

(PS:文末还有本次沙龙的现场图片~)

作者信息

论文:
https://arxiv.org/pdf/2103.06255.pdf

代码:
https://github.com/d-li14/involution

个人主页:
https://duoli.org

PPT和视频可在极市平台公众号后台回复“李铎”获取。

论文摘要:卷积作为现代神经网络中的核心构件,引发了深度学习技术在视觉领域的发展浪潮。在这篇工作中,我们重新思考了标准卷积核在空间维度和通道维度的固有特性,即空间不变性和通道特异性。与其相反地,我们通过反转以上的两个设计准则,提出了一种新颖的神经网络算子,称为“反转卷积”。另外我们解释了最近应用广泛的自注意力操作,并将其作为一种复杂的特例归入了“反转卷积”的范畴。我们提出的“反转卷积”算子可以作为基础模块替代普通卷积来搭建新一代的视觉神经网络,在不同的视觉任务中支持多种多样的深度学习模型,包括ImageNet图像分类,COCO目标检测和实例分割,Cityscapes语义分割。基于“反转卷积”的深度神经网络相较于ResNet-50对应的卷积神经网络模型,在上述任务中分别将识别准确率提升1.6%,边界框AP提升2.5%和2.4%,类别平均IoU提升4.7%,而将计算代价压缩到66%,65%,72%和57%。

完整报告

  • 简要介绍卷积
  • 卷积两大特性:空间不变形与通道特异性
    • 如果要保持计算效率,就需要进行长期的自适应关系建模。
  • 视觉识别中的Involution

    • 与卷积两大性质(空间不变形与通道特异性)相反
    • Involution的具体操作
    • 基于输入特征图生成的卷积核
  • 一种具体的做法:如何高效的生成Involution的卷积核
  • Involution与自注意力的关联
    • 多头注意力
    • Involution的另一个实例
  • 在图像分类任务上与ResNet和基于自注意力的模型之间的比较
  • 在目标检测与实例分割任务上的比较
  • 在语义分割任务上进行对比
  • 分割结果的可视化
  • 消融分析
  • Involution卷积核的可视化

现场照片

# 极市线下沙龙

CVPR2021论文研讨会



2021 · 3月27日


深圳是今年极市线下沙龙的第一站,但其他城市的小伙伴不要着急,可以在下方评论区留言你期待的极市沙龙举办地点,我们的下一站说不定就会在那儿哦~

推荐阅读


CVPR 2021 | Short-video Face Parsing Challenge 开赛,数据集已开放!

2021-03-31

为了提升在小数据集上的性能,有学者让神经网络像生物一样“进化”了|CVPR2021 Oral

2021-03-27

最高10万奖励!不限选题!高通AI应用创新大赛应用赛道详解

2021-03-29



极市原创作者激励计划 #


极市平台深耕CV开发者领域近5年,拥有一大批优质CV开发者受众,覆盖微信、知乎、B站、微博等多个渠道。通过极市平台,您的文章的观点和看法能分享至更多CV开发者,既能体现文章的价值,又能让文章在视觉圈内得到更大程度上的推广。

对于优质内容开发者,极市可推荐至国内优秀出版社合作出书,同时为开发者引荐行业大牛,组织个人分享交流会,推荐名企就业机会,打造个人品牌 IP。

投稿须知:
1.作者保证投稿作品为自己的原创作品。
2.极市平台尊重原作者署名权,并支付相应稿费。文章发布后,版权仍属于原作者。
3.原作者可以将文章发在其他平台的个人账号,但需要在文章顶部标明首发于极市平台

投稿方式:
添加小编微信Fengcall(微信号:fengcall19),备注:姓名-投稿
△长按添加极市平台小编

△点击卡片关注极市平台,获取最新CV干货

觉得有用麻烦给个在看啦~  
浏览 119
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐