在消失的几个月里,我拿奖啦
老肥码码码共
2208字,需浏览
5分钟
·
2020-11-08 00:33
最近不怎么出现在大家的视野中,可不是因为我偷懒喔。在普遍唱衰算法岗位的大环境下,为了给自己的空白简历增加点色彩,也是给自己未来在就业市场增加求职的筹码,从今年六月份到现在这5个月我一共参加了三个算法比赛。就在前几天,刚刚结束了我的第三个比赛。今天就和大家聊聊,这几个比赛一个入门级菜鸟的真实感受。我正儿八经参加的第一个比赛是kaggle上的图像隐写分析比赛,因为我本身的研究方向便是这个,于是我自信满满地参加了这个比赛。方向比较冷门,属于信息安全领域中的多媒体安全。
很多朋友应该都没有听过隐写分析,我简单介绍一下。首先是隐写, 隐写指的是我们将秘密信息藏入载体之中(比如图像、语音、视频、文本等),不让其他人通过肉眼或者技术手段检测出来,而隐写分析正是指检测某个载体是否藏有秘密信息的技术。具体到这个比赛,目标就是检测某张图片是否藏有秘密信息,是一个看似简单的二分类问题。但由于嵌入算法的多样性,嵌入率的不确定性,隐写分析的难度相当大。
我一开始便选择了领域中的SOTA模型——SRNet, 但由于该模型是在实验室环境中的“无敌”, 无法适应该赛题的变化,效果令人大失所望。接着采用了效果惊艳整个CV届的EfficientNet, 尝试了b2-b5, 从b4开始因为显存的限制我不得不使用了混合精度。因为EfficientNet的强大性能以及我“娴熟”的玄学调参,我一度来到了接近LB银牌的位置,中间也尝试了很多不同的训练方法, 一些包含领域知识的解决思路。但还是非常遗憾,随着比赛的进行,大佬们的涌入让我眼睁睁地看着自己的排名下降,最令我难受地是切换到B榜之后,我直接shake了600名!一次疯狂的大跳水结束了我的处子秀。这次比赛分为多个赛道,包含汽车赛道、高端装备赛道、航空航天赛道、医疗赛道和一个开放赛道,比赛目的是让AI算法与企业应用真正结合起来,采用的数据是真实的工业数据。我从中挑选了两个赛道,其一是上海电气的利用算法搭建设备健康情况预警模型,其二是基于DNA编码化合物筛选数据的机器学习建模。同时进行两个赛道的比赛的原因是,这可以让我在比赛进程中根据自己的相对排名情况主攻排名靠前的赛道,有更大的可能获奖。我最终主攻的是第二题,简单来说,这道题的任务是一个二分类问题,给定一堆化合物信息数据,包括其结构(SMILES表示),分子量,脂水分配系数等数据,来预测该化合物与靶点结合的性质为阴性或是阳性。对于SMILES的处理以及靶点筛选我查阅了很多文献,当下非常流行也是效果最棒的两个模型分别是LSTM和GNN, 于是我基于这两种模型分别进行了实验,两种模型都取得了不错的效果,但图网络还是更胜一筹。在经过线下验证线上反馈的方式调整自己的网络参数,最终在该赛道取得了客观成绩第二的好成绩,并且在经过答辩以及线上主观评审之后最终获得了单赛道的季军,也收获了人生的第一笔比赛奖金5000。前两次的比赛都是solo的,那么根据三人成虎(误)的道理,组个队融合一下岂不能获得更优的成绩,很开心这第三次比赛完美印证了我的猜想。我和邓佬组队取得了这次比赛初赛第二,复赛第一的好成绩。
这个比赛是链想家计算科技大赛MOOCCube学生行为分析挑战赛,我也同时参加了两个赛道,赛道一是学生退课行为预测,赛道二是学生答题正确性预测。我主攻的赛道一赛题非常明确,那便是根据学生观看视频的历史数据来预测该学生是否会选择退课。该比赛我用时两个多月,疯狂地冲分导致我连做梦都在构造特征。初赛一步一步地从倒数到前二十到前十,期间还不断被新参赛的大佬们按到十名开外,到了比赛的最后阶段,我和邓佬一拍即合,完成了组队。一千个人眼里有一千个哈姆雷特,每个人对赛题的解读不同,数据处理方式不同,特征构造维度不同,经过思想的碰撞之后,我们各取所长,一举让我们冲到初赛LB第二名。复赛这一天尤为刺激,也是我人生中睡眠时间最少的一天。2020年11月1日下午4时,我完成了复赛的第一次提交。查这个分和我当时高考查分的刺激程度有的一拼,我是从榜单的下面一直往上滑,最终发现自己在第一的位置,在开心地吃完晚餐之后发现自己以0.00006的微弱劣势屈居第二,并在次日凌晨四时发现自己掉到了排行榜第三位,而当时我们只剩最后一次提交机会,在一番纠结之后我最终使用摇骰子的方式确定选择了另外一种模型融合的方式,很高兴正是这一次的提交让我们再次回到了第一名的位置,也一直保持到了比赛结束。打比赛一时爽,一直打比赛一直爽,这是我最真实而又深刻的体验。当你从排行榜的末端一直上升,一直上升到头部的位置,可能会经历开心,经历失落,中间的过程可能起起伏伏,而你精心构造的特征,辛勤付出的汗水一定会收获好的结果。后续的比赛复盘,我们团队的解决方案我也会在这个公众号继续和大家分享,空余时间我也会给大家整理一些打比赛的小技巧,给想尝试打比赛却无从下手的朋友们一个参考。
——END——
浏览
28点赞
评论
收藏
分享
手机扫一扫分享
分享
举报
点赞
评论
收藏
分享
手机扫一扫分享
分享
举报