在计算机领域的科研中,最初的创新点从何而来?

视学算法

共 2442字,需浏览 5分钟

 ·

2022-06-08 19:44

点击上方视学算法”,选择加"星标"或“置顶

重磅干货,第一时间送达

作者丨战斗系牧师@知乎(已授权)
来源丨https://zhuanlan.zhihu.com/p/524323387
编辑丨极市平台

导读

 

工作被说没有创新?为什么大佬们的idea却层出不穷?作为科研打工人该如何攻克“novelty”这个难题?本篇和大家闲聊一下那些年我们一直追求的创新。

卷首语

这次不太涉及过多的技术分享,简单聊聊~

创新性,英文又叫novelty。是无数水手最害怕的三个字!

创新性或者没有创新性

其实创新性这种东西看似很虚,很飘渺,但是实际上就是就是很虚很飘渺。六老师说过:一千个人眼里就有一千个novelty,但是我希望一千个人眼里只有我这一个西游记。评审以及我们读者凭啥去判断这篇文章有没有创新性,有无一个明确的指标吗?很显然并没有,很多时候靠的就是阅文无数积累下来的经验。所以对于越是经验老道的reviewer来说,想要达到他心中的novelty就越难。举个例子,比如我身边一些朋友,很喜欢跨学科带东西,比如拿Transformer去求解流体力学的模型,这是novelty吗?假如你是一个只有流体力学背景的审稿人,这玩意你压根没见过,这不是创新性吗?但是假如你是一个有着Transformer的研究经历的审稿人,这玩意在你眼里看上去,就和换皮、套壳没啥区别,这篇文章在你这的novelty就会大打折扣。所以对于如何把握住所谓的novelty我想说的就是文章投对地方,找对审稿人很重要。也希望呼吁一下审稿人,别再一言不合就直接写上没有novelty,多多耐心细致的解释一下为啥觉得不好原因,多说说对文章发展有指导性的意见,对自己审稿的文章负点责任。

新手为啥会常常发现人家的东西很好,可是自己做不出来的怪圈呢?

其实很多时候我看着看着文章会有着一种错觉,所谓的很具有创新性的文章其实咋一看似乎也很普通。这时候我就会在心里反问自己一句:"如果是我能不能做出来这个东西”。我想我是会的,前提是我已经知道前人工作的问题点在哪,或者是自己所做的方法的问题点在哪?我觉得很多时候论文新手必须要纠正的一点是创新点不是凭空产生的,一定是立足于问题之上的。创新点的提出,目的是为了解决问题的。问题与创新点很多时候是一个母子关系,如果你的问题是空洞的,无意义的,那么你的方法自然是空洞的,无意义的。就好像前期的新手(包括我)很多时候会把实验结果是否SOTA看作首要任务,每次跑出来,结果差了,就无缝衔接继续实验。通常为了保证自己能够持续不断的尝试实验,会看很多文章,然后移植很多方法,做很多尝试。记录一版又一版的实验。组会汇报的时候,我能清晰的说出别人的文章做了啥,然后解决了一个怎样的问题。但是对于我自己的实验来说,自己做的实验很多时候自己都不确定这个问题是不是存在。最后我们发现,方法是搬运的;问题也是搬运的(但是不确定是不是存在);实验结果是好了,但是没有好很多的情况,这样的进展谈何创新性啊!只是在一味的生产制造垃圾和浪费电费罢了。所以,我们每个时刻都要清晰的知道我们在解决什么问题,我们在实验前最好就要有个大体的把控,这样我们每次的实验才会有意义,创新性才会顺理成章的出来。

有用、实在是创新性的追求!

我们要冷静客观,不要一味去追求猎奇、新鲜,那其实真不是创新性,有用、实在才是创新性的存在的意义。像之前Swin-Transformer(Swin-T)拿到ICCV马奖的时候,依然有许多质疑novelty的声音,类似于只是将CNN和Transformer融合这样的操作是否是属于能够达到了评选为马奖的创新性等级。大家似乎关注的点在于东西是不是足够新,足够奇,而忽略了本来工作应该要具备的实用性以及是否是能对后续的工作带来启发性。 追求足够的怪诞这不是我们发文的初衷,所以一步步的优化,不断的比前人好,针对自己每次实验的问题提出自己的理解以及改进的方向,并且自己的方法能够work,能够具有前瞻性,就是我认为novelty。方法不在于有多猎奇,我能把我的故事说闭环了,把我自己在文章中吹的牛逼都做到了,那就是成功的创新性了。

多积累,多看文章

好的段子不是一下子就会出来的,一定是经过生活的打磨以及自身的阅历逼出来的。那么好的创新性也同理,是经过不断出现的问题,不断出现的Bug, 打磨出来的。所以真不用太急于一下子就说,为啥我看完一篇文章灵感不会来。有时候灵感来不了很正常,有的文章隔一段时间反复回头看,感受也会不太一样,做科研就要不断的积累才能有成果,而积累的过程需要每个时刻都做好总结,学会这些东西才能有储备用起来。技术池深了,才能经得住风浪。

多实验

很多好的点子是一下子出现,过一段时间就消失的,也有很多点子在A数据集上面不work但是在B数据集就好了,实验是必要的也是必须的。不能纸上谈兵,PPT说得头头是道,但是到了实验,连loss全是NaN都没有办法解决。看文章是为了拓宽视野,但是正常磨练一个idea,打磨一个idea一定是在实验中来的。

卡时间

好的创新性是有时效性的,不是说我打磨4-5年出来的东西就是好的。要记住每一次赶顶会都有可能出现撞idea的风险,我自己就被撞过几次idea,别提多悲伤了,写完文章之后发现,一篇和自己idea相似的文章已经被接收,还在各种公众号被发出来。所以要把握每一次赶会议的时间点,如果Idea真的好久都没有办法出现或者是一直都没有办法work,建议即使止损。可能不是你的idea不行,只是恰好,它不适合出现在这个时间点而已。如果你看到了撞idea的文章,也不要悲伤,这恰好是自己想法棒的一点啊!

结尾

其实我说了这么久的novelty,但是我还是觉得文章的写作是比novelty更重要的点子,文章的写作才是要不断打磨的,novelty这种很多时候可遇不可求,把自己更多精力放在练习文章写作才是新手的主要任务!


点个在看 paper不断!

浏览 19
点赞
评论
收藏
分享

手机扫一扫分享

举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

举报