ICML 2021刚刚做出了一个「艰难的决定」:将论文接收率直接砍掉10%

极市平台

共 3253字,需浏览 7分钟

 ·

2021-05-06 12:48

↑ 点击蓝字 关注极市平台

来源丨机器之心
编辑丨极市平台

极市导读

 

年初投过 ICML 2021 的同学们要注意了,组委会刚刚做出了一个艰难的决定……影响结果是,各位的论文的接收概率似乎又下降了一点。>>加入极市CV技术交流群,走在计算机视觉的最前沿


今天,马里兰大学计算机系副教授 Tom Goldstein 在推特上表示,他从一位 ICML 2021 主席那儿获知,大会主办方正准备削减本次的论文接收数量。「请与您的SAC一起提升水准,AC/SAC 不再仅因为未出现错误就同意接收一篇论文。」

ICML 是机器学习领域最重要的会议之一,在该会议上发表论文的研究者也会备受关注。近年来,ICML会议的投稿数量一直增长:ICML 2020 投稿量为4990篇,ICML 2021的投稿量据说更多,有研究者在官网注册ID,发现已经排到了8000多名。这一度让人好奇,ICML 2021 会成为CVPR 2020 之后又一个「投稿破万」的AI顶会吗?

投稿数量激增一定会带来很多问题,比如审稿人数量不足、工作量激增、部分审稿人资质不足,长远来看也会对会议本身的口碑造成影响。

也许这就是推动ICML 2021 主办方决定主动降低接收率的原因之一。Tom Goldstein 补充说:「他们表示首要任务是接收有趣的、原创的(或高风险的)论文,但没有说明为什么要削减目前接收的论文数量……」


同为AI顶会,其实 ICML 会议并不属于接收率很高的那一档:ICML 2019 为22.6%,ICML 2020 为 21.8%。相比于26.5%(ICLR 2020)、28.7%(ICLR 2021)等数字来说,是有一定差距的。

普林斯顿大学计算机教授 Ryan Adams 透露,本次降低的接收比例大概是10%:「根据当前的 Meta-Review 统计数据,我们需要提高接收标准。请与 AC 协调以减少大约10%的接收。」



但这一消息也受到了机器学习社区部分研究者的质疑,Ryan Adams 就认为:作为线上举办的会议,又不受线下资源限制,为什么要来这么一出呢?


滑铁卢大学教授Gautam Kamath也认为:我同意「论文没有错」确实不足以被接收,论文也应该有趣。但我不同意减少接收论文的数量,尤其当我们没有传统的空间限制时。


纽约大学教授机器学习教授Andrew Gordon Wilson表示,基于平均审阅者分数对论文进行排名也是个问题,特别是如果目标是鼓励「冒险」和「启发性」,这样的论文在得分上常常是两极分化的。


有人认为ICML会议主办方搞的这个方法,如果真正落实,未必会取得更好的效果:

理想效果:1、会议排名提升;2、效果提升。
实际效果:1、审稿心态变为「为什么要拒掉这篇稿」,而不是「为什么要接收这篇稿」;2、技术上不合格或懒惰的审稿人变得更加不认真,为了让均分低于6.0而审稿,不再好好阅读Rebuttal。



再过几天,ICML 2021就要放榜了,骤闻拒稿新规,各位投稿人心里大概是起起落落……

顶会该怎么改革?


随着投稿数量逐年激增,机器学习顶会审稿压力日益加大,审稿质量也成为人们的一大忧虑。最近,各大顶会也都纷纷推出改革措施,以提升审稿质量。围观之后,方式主要有几种:

降低接收率

以IJCAI为例,降低论文接收率也许是提升顶会论文质量的一种方法。在4月30日放榜的IJCAI 2021上,论文接收率仅为13.9%。相比于去年的12.6%虽略有上涨,但仍低于15%。对比往年接收率会发现,IJCAI的论文接收率自2016年开始出现断崖式下跌。

图源:https://github.com/lixin4ever/Conference-Acceptance-Rate

另一方面,一些顶会通过改革审稿机制来提升论文质量。

公开审稿意见

今年4月初,NeurIPS 2021宣布将大会的全部审稿流程转移到论文审阅平台 OpenReview 上,并在被公开的论文下,把审稿意见、作者的讨论等内容全都一并曝光出来。NeurIPS 2021大会方面表示:「尽管现在我们还是无法利用开放审稿系统的全部好处,但新政策确实可以给论文作者们提供一个可以公开显示,并反击论文评审中存在问题的机会。」


糟糕的审稿意见。

滚动审稿

国际计算语言学协会 ACL 今年推出了自己的新机制 ACL Rolling Review,它适用于所有 ACL 系列会议和 Workshop 的投稿与审稿流程。这种滚动审稿机制将在今年 11 月 7 日举行的 EMNLP 2021 大会上首次得到应用。


AI协助审稿

在一些AI 顶会的审稿工作中,主办方使用了 Toronto Paper Matching System (TPMS),在此之前 TPMS 也被应用于其他多个会议的投递论文分配工作,它通过对比投稿论文和审稿人研究工作之间的文本,来计算投稿与审稿人专业知识之间的相关性。这个筛选过程是匹配系统中的一部分,期间审稿人也可以主动争取自己希望审阅的论文。

TPMS架构。

此外,OpenReview 开发了一种「亲和力评测」系统,借助了神经网络「Spectre」来分析论文标题和摘要。OpenReview 和麻省大学阿默斯特分校的计算机科学家 Melisa Bok 和 Haw-Shiuan Chang 表示:「包括 NeurIPS 在内的一些计算机科学大会将在今年把亲和力评测系统与 TPMS 结合使用。」

在机器学习论文爆炸的今天,顶会不断引进的新措施将让论文质量迈上一个新的台阶。

参考链接:
https://twitter.com/tomgoldsteincs/status/1388156022112624644
https://www.reddit.com/r/MachineLearning/comments/n243qw/d_icml_conference_we_plan_to_reduce_the_number_of/



如果觉得有用,就请分享到朋友圈吧!

△点击卡片关注极市平台,获取最新CV干货

公众号后台回复“五一”获取2017-2021CVPR资源合集~


极市干货

YOLO教程:YOLO系列(从V1到V5)模型解读YOLO算法最全综述:从YOLOv1到YOLOv5

实操教程使用Transformer来做物体检测?DETR模型完整指南PyTorch编译并调用自定义CUDA算子的三种方式

算法技巧(trick)半监督深度学习训练和实现8点PyTorch提速技巧汇总

最新CV竞赛:2021 高通人工智能应用创新大赛CVPR 2021 | Short-video Face Parsing Challenge


极市原创作者激励计划 #


极市平台深耕CV开发者领域近5年,拥有一大批优质CV开发者受众,覆盖微信、知乎、B站、微博等多个渠道。通过极市平台,您的文章的观点和看法能分享至更多CV开发者,既能体现文章的价值,又能让文章在视觉圈内得到更大程度上的推广。

对于优质内容开发者,极市可推荐至国内优秀出版社合作出书,同时为开发者引荐行业大牛,组织个人分享交流会,推荐名企就业机会,打造个人品牌 IP。

投稿须知:
1.作者保证投稿作品为自己的原创作品。
2.极市平台尊重原作者署名权,并支付相应稿费。文章发布后,版权仍属于原作者。
3.原作者可以将文章发在其他平台的个人账号,但需要在文章顶部标明首发于极市平台

投稿方式:
添加小编微信Fengcall(微信号:fengcall19),备注:姓名-投稿
△长按添加极市平台小编


觉得有用麻烦给个在看啦~  
浏览 103
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报