读博无门就业碰壁,孤独民科7个月后,我的论文竟中顶会
赖可 发自 凹非寺
量子位 报道 | 公众号
丹麦科技大学有位研究生有硕士学位,其所学专业是机器学习,此人没申请到博士学位,并且也没找到合适工作 。
他做出决定,给自己留出8个月的时长,要在顶级会议之上发表一篇学术论文,否则就会去成为一名程序猿 。
最终他做到了!
他收到了超过100条私信,这些私信是来询问如何像他那样去做一名「独立研究者」的 。
于是,他把自己经历,详细写了下来,并且,还给了这么一条忠告:这条路,实在是太苦了,要是能够不走的话,那就别走吧。
申请碰壁
小哥天真地认为,经论文在.pub发布之后在存在,有关于独立撰著的论文,加之个人本身拥有的硕士学位,就能够申请获取一顶博士学位,要是条件不足也能够顺利申请到软件工程师、ML工程师之类岗位的职位。
他作为唯一作者,在.pub这个平台上发表了论文,论文题目是《在RNN中的可视化记忆》,该论文展示了情况,即有两个准确度相似的模型,它们在NLP方面的显著交互可视性存在很大不同 。
他在写信给教授的同时,也在给各类大厂写信,诸如谷歌、微软、英伟达、英特尔、京东、亚马逊、三星、Shift、Corti等都尝试过了,并且还请认识的人给予帮忙推荐,最终所得到的结果是:
没有一篇顶会发表的文章,很难申请到好的AI博士项目。
而这位小哥在丹麦大学完成硕士学业,学校并不鼓励他们发论文。
固然他并未获得到任何公司发出的工作录用通知,就连一通面试邀约的电话都未曾有过句号。
碰了一圈壁之后,小哥明白了:
想成为博士,然而却不存在圈内人给予推荐,这种情况下,你得预先开展等效于博士学位一半份额的工作,
申请季过去,2019年4月,他决定背水一战:
在2020年1月之前,要是未曾于ICLR上发表文章,那就去从事程序猿这份职业 。
一边赚钱养自己一边做研究
在前一年的时候,小哥属于自由职业者,所以寻得活儿去养活自身并非算得上十分困难 。
之前,他经由朋友,接到了一个项目,其要求为,了解Node.js的内部结构,统计背景,具备Web可视化技能,他既满足了这些要求,还能够获得不错的薪水。
2019年时,原先那项目给了他新的工作任务,是开发在EU 2019上发布的IoT智能手表及胸牌当中的部分,这使得他在2019年能持续拥有收入。
生活问题解决了,想发表论文的第一个困难是要确定研究方向。
机缘总是会提前埋下伏笔。
毕业之后,他去往自己学校,在AI学生协会开幕式之时,去找导师言谈博士学位相关事宜,然而并未成功。不过,他碰到了后来成为贵人的助理研究员。
在与对方的通信里,告知他,存在几个学生,他们尝试去复制论文「NALU」,也就是神经算术逻辑单元,然而并未成功,询问他是否能够去尝试一下这个方向,说不定会形成一篇论文。
他回想起, 自己先前研究性刊物上发表的文章, 始终都在对他人的学术探究成果进行改进, 对于这般性质的工作, 他也是怀有一定程度的兴趣的。
它们的表现,几乎被所有出版物夸大了。改善他人工作,是一种可行的研究策略。
孤独前行
人作为有着社会性本质属性的动物,是需要源自所处环境给予的支持以及鼓励的。博士去撰写论文这一行为是非常辛苦艰难的,然而起码在其周围依然存在着数量不少的同样处于辛苦艰难状态的人 。
而一个人从事研究去撰写论文,能够想象得出会多么孤独,孤独到走过这条路的小哥劝告大家不要再这般去做:
并非处于有网络支持的状态,曾于充当第一作者去撰写论文之际,历经那种挣扎与痛苦,此为我给出不建议去成为独立研究员的首个缘由,别以为你拥有能连续七个月都获得不到任何鼓励的状况 。
那是如何撑过这7个月的呢?
每周一次进行见面,而后展开讨论研究,这对于他而言帮助极大,他具备很好的批判性思维,能够针对他的研究提出质疑,如此这般所产生的督促作用在于,能使他自己不会去想偷懒走捷径 。
2、与此同时去做一些别的小项目,不让所有时间全投入于研究上,编写出一个开放源代码的工具,达成一篇已知之论文的相关内容等等,这样阶段性的小成就,更易于获取其他研究员给予的鼓励,使自身拥有一些正向反馈。
不要怕拒绝,反复投,反复改
论文初稿完成后,进行了三波投稿。
首先是第一波,采取投石问路的方式,他将论文投向了他曾经发表过论文的那个.pub,然而却遭到了拒绝。
对其进行修改之后,又一次投向了.pub,此次他收获到了极具价值的评审建议,他认为,要是没有源自.pub两位评审所给出的意见,那论文最终极有可能无法进入ICLR 。
至于他的目标是或ICLR,那就一个一个试。
于是第二波,他投了,也被拒绝了。
研究自身是针对源自的NALU所开展的优化,存有质疑的那些意见基本上也都跟这个存在关联,:
1、新研究无法成功得以实现 NALU 的结果,这是被一些评论者所认定的。“为什么原始论文的结果会相较于你提案里的结果好出许多”,这是一个反复出现的问题 。
2、一些评论者还提出建议,去做NALU论文宣称要做的全部事情,然而论文里给出了确切的证据,得以证明NALU模型无法令人满意地完成所有工作。
小哥从被拒绝的经验中总结:
评审员倾向于支持已发表的结论,他们会严格对待你提交的内容,然而不会如许直面且严格地对待先前发表过的内容,尤其是当已发表的内容来源的时候。
再接,再厉,小哥又一次对论文作出更改,添加了更多证据以及实例,投向了ICLR。
此外,他还做了一件为自己的研究争取好评的事情:
把实验的预定设置以及复现之后所获得的结果,投递给了在2019年举办的SEDL 。随后他发送了一条,其中标记了NALU的第一作者是A. Trask,结果对方给予了回复:Great work! 只有具备了良好的基准,才能够持续进行提升。
在ICLR评审当中,小哥所撰写的论文,获得了4条评审给出的意见,它们依次是3,6,6,8 。
其中有一位评审人,在此之前有过阅读他研究内容的经历,对于他所开展的研究,接受程度出现了提升的情况,起始阶段是达到了Weak的水平,之后变成了ICLR所对应的Weak状况,最终演变成了这样 。
最终,区域主席给的决定是接受()。
评语是:
本文对关于NALU的工作做了扩展,提供了一对单元,这对单元的性能比NALU更优,审稿人对该论文表示了广泛赞成,尽管在修订中要点已经得到解决,然而一位持异议的审核者貌似没有时间重新考量分数。我很乐意在这儿保持乐观,并且假定他们会对讨论所引发的变化感到满意,进而建议接受 。
经验总结
小哥认为,自己的经历有一个重要的背景:
自2017年过后,硕士申请博士的门槛有所提升,不像先前那般能够轻易申请而至得到。申请获取博士学位相较于完成博士更具难度。
博士申请需一到两篇于顶级会议发表的论文,且最好有知名的合作人员。同样,相关行业从业者的要求也在提升。小哥硕士毕业后未申请到合适的大厂岗位,而在二零一三至二零一五年,硕士学位也能够应聘成为的研究员。
最后,小哥总结出三条经验:
1、要和他人开展合作,寻得能够针对研究给出建设性意见的人是颇为重要的,另外,于大学里寻觅到能够运用大量计算资源的人也是很有必要的,身为助理研究员的为小哥的研究供给了计算资源。
2、别灰心,要给自己留备选项,当前投稿接收率约20%,做独立研究被接受机会或许更少,可莫因一次拒绝就灰心,同时要开展其他项目,如此即便失败,也不会觉完全浪费时间。
3、说一千道一万:有别的选择,就不要走这条路。
One more thing
有人问他:要取得,还需要额外做什么?
小哥回:说实话,我觉得主要是运气。
他还回答了别的问题:
Q:你这些漂亮的图是什么做的?
A:我所有的图都是用 R 库的 绘制的。
Q:你的工作没有什么用,你就是个笑话。
A:谢谢你,你有想过成为一名评审者吗?
Q:你花了多长时间?
我在这篇论文上,每周大概花费48个小时,有时能到100个小时。然而要记住一点,期间我还进行了业余项目以及自由工作。
Q:你的计算资源来自哪里?
A: 可以为我们提供计算资源,因为他是一名助理研究员。
Q:我的导师要给我一个读博的机会,我是否应该接受?
如果你实实在在地想要去做研究,或许你应当予以接受,当下竞争是极为激烈的,我觉得你理应接纳你能够获取到的 。
我当下处于实习阶段,然而我察觉到什么都没法学到手,缘由在于我的导师对我不闻不问 。
你得对自身负责,别盼着你的导师会主动来寻你,真开心你获得了实习契机,我先前未曾得到。可以着手去操办会面事宜,不过也要记着,除了导师之外,你还能够向其他人去求取教导。
Q:我是硕士在读,要怎么为发论文做准备?
要是你能寻觅到一位抱持开放态度的导师,那么就试着去发表,与此同时,留意在学习阶段找实习工作,多数是实习工作只为学生开放,我曾获得过实习机会然而却无法前往,缘由是我已然毕业了 。
Q:我要如何提升自己的编程技巧?
在多年坚持写开源代码这件事上,我,得到了一些优秀程序员于此间持续给予的指导 。
他们是如何做到的呢,是一些人拿到硕士学位后跑去谷歌成为研究员为我所目睹的 ?
A:存在此种情形,并且黄金阶段为2013年至2015年。倘使那时你获取了硕士学位且足够有幸,你便能够走得甚远 。
从事机器学习研究的道路,于任何一个人来讲,都是漫长的,然而,要是你不着手去展开,那么好像是没可能的,要是你确实有想法,那就投入精力去寻觅别的办法。
听了小哥的故事,是不是有所触动呢?
参考资料
@/-an---and---in-iclr-with--
— 完 —
诚挚招聘
处于量子状态的比特正在开展招募编辑与记者的行动,其工作所处的地点是位于北京的中关村。怀有期待地希望具备才华气息以及拥有热情的同学们加入到我们这个群体当中来!与之相关的详细具体情况细节,可要在量子特性比特的公众号的对话界面里,回复“招聘”这两个文字。
量子位 · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
版权声明
本文仅代表作者观点,不代表本站立场。
本文系作者授权本站发表,未经许可,不得转载。

 
								 
								 
								 
								