ICML 2021刚刚做出了一个「艰难的决定」:将论文接收率直接砍掉10%
共 3253字,需浏览 7分钟
·
2021-05-06 12:48
极市导读
年初投过 ICML 2021 的同学们要注意了,组委会刚刚做出了一个艰难的决定……影响结果是,各位的论文的接收概率似乎又下降了一点。>>加入极市CV技术交流群,走在计算机视觉的最前沿
今天,马里兰大学计算机系副教授 Tom Goldstein 在推特上表示,他从一位 ICML 2021 主席那儿获知,大会主办方正准备削减本次的论文接收数量。「请与您的SAC一起提升水准,AC/SAC 不再仅因为未出现错误就同意接收一篇论文。」
ICML 是机器学习领域最重要的会议之一,在该会议上发表论文的研究者也会备受关注。近年来,ICML会议的投稿数量一直增长:ICML 2020 投稿量为4990篇,ICML 2021的投稿量据说更多,有研究者在官网注册ID,发现已经排到了8000多名。这一度让人好奇,ICML 2021 会成为CVPR 2020 之后又一个「投稿破万」的AI顶会吗?
投稿数量激增一定会带来很多问题,比如审稿人数量不足、工作量激增、部分审稿人资质不足,长远来看也会对会议本身的口碑造成影响。
也许这就是推动ICML 2021 主办方决定主动降低接收率的原因之一。Tom Goldstein 补充说:「他们表示首要任务是接收有趣的、原创的(或高风险的)论文,但没有说明为什么要削减目前接收的论文数量……」
同为AI顶会,其实 ICML 会议并不属于接收率很高的那一档:ICML 2019 为22.6%,ICML 2020 为 21.8%。相比于26.5%(ICLR 2020)、28.7%(ICLR 2021)等数字来说,是有一定差距的。
普林斯顿大学计算机教授 Ryan Adams 透露,本次降低的接收比例大概是10%:「根据当前的 Meta-Review 统计数据,我们需要提高接收标准。请与 AC 协调以减少大约10%的接收。」
但这一消息也受到了机器学习社区部分研究者的质疑,Ryan Adams 就认为:作为线上举办的会议,又不受线下资源限制,为什么要来这么一出呢?
滑铁卢大学教授Gautam Kamath也认为:我同意「论文没有错」确实不足以被接收,论文也应该有趣。但我不同意减少接收论文的数量,尤其当我们没有传统的空间限制时。
纽约大学教授机器学习教授Andrew Gordon Wilson表示,基于平均审阅者分数对论文进行排名也是个问题,特别是如果目标是鼓励「冒险」和「启发性」,这样的论文在得分上常常是两极分化的。
有人认为ICML会议主办方搞的这个方法,如果真正落实,未必会取得更好的效果:
理想效果:1、会议排名提升;2、效果提升。
实际效果:1、审稿心态变为「为什么要拒掉这篇稿」,而不是「为什么要接收这篇稿」;2、技术上不合格或懒惰的审稿人变得更加不认真,为了让均分低于6.0而审稿,不再好好阅读Rebuttal。
再过几天,ICML 2021就要放榜了,骤闻拒稿新规,各位投稿人心里大概是起起落落……
顶会该怎么改革?
随着投稿数量逐年激增,机器学习顶会审稿压力日益加大,审稿质量也成为人们的一大忧虑。最近,各大顶会也都纷纷推出改革措施,以提升审稿质量。围观之后,方式主要有几种:
以IJCAI为例,降低论文接收率也许是提升顶会论文质量的一种方法。在4月30日放榜的IJCAI 2021上,论文接收率仅为13.9%。相比于去年的12.6%虽略有上涨,但仍低于15%。对比往年接收率会发现,IJCAI的论文接收率自2016年开始出现断崖式下跌。
此外,OpenReview 开发了一种「亲和力评测」系统,借助了神经网络「Spectre」来分析论文标题和摘要。OpenReview 和麻省大学阿默斯特分校的计算机科学家 Melisa Bok 和 Haw-Shiuan Chang 表示:「包括 NeurIPS 在内的一些计算机科学大会将在今年把亲和力评测系统与 TPMS 结合使用。」
在机器学习论文爆炸的今天,顶会不断引进的新措施将让论文质量迈上一个新的台阶。
如果觉得有用,就请分享到朋友圈吧!
公众号后台回复“五一”获取2017-2021CVPR资源合集~
YOLO教程:YOLO系列(从V1到V5)模型解读|YOLO算法最全综述:从YOLOv1到YOLOv5
实操教程:使用Transformer来做物体检测?DETR模型完整指南|PyTorch编译并调用自定义CUDA算子的三种方式
算法技巧(trick):半监督深度学习训练和实现|8点PyTorch提速技巧汇总
最新CV竞赛:2021 高通人工智能应用创新大赛|CVPR 2021 | Short-video Face Parsing Challenge
# 极市原创作者激励计划 #