深度学习博士发出灵魂拷问:我是在做算法还是在调参?

共 2176字,需浏览 5分钟

 ·

2021-07-14 08:42

转自:新智元

最近Reddit上有一个帖子又火了!
 
一个小哥读了博,并且还是最火的深度学习博士,主要研究领域为计算机视觉和自然语言处理,但他每天却都很苦恼,感觉自己不是在做科研,而是在做工程!
 
 
他在Reddit论坛上求助网友,如何让对在学术上没有取得特别优秀成就的他成功取得博士学位。
 
文中他说自己正在攻读机器学习的博士学位,主要从事深度学习,并且还基于此有了一些会议上的论文,但是这些会议并不是公认的顶级会议。
 
尽管不是顶会,但是审稿人对他的要求和回复还都是相当苛刻的。
 
他也明白他们为什么这么挑剔,坦言自己不是一个优秀的学生,实验室也不是一个优秀的实验室,所做的主要工作就是重新使用现有的方法为不同的领域,例如使用一个 ResNet 用来做医疗成像,或是基于Transformer的音乐分类。
 
和其他人相比,他自认为严重缺乏数学背景知识,即使努力阅读,也经常立即忘记那些实际上并没有用到的概念,甚至都不会计算矩阵的秩是多少,更不用说如何使用它了。
 
这就是为什么没有真正想出新方法的部分原因,更擅长组合现有的东西,但有时感觉不像是研究,而更像是工程学。
 
因为贡献比较平庸,所以小哥不认为他能够在学术界有所作为,所以未来可能会在这个行业内找一份工作,而不是去大学谋一份教职。
 
最后这位小哥希望网友们对他的博士生涯给他两个建议(1)提高
 
如果在周末有剩余的精力,也许应该做一些副业?
 
对此,网友表示,这不是一个简单的问题。
 
 
最终,你的博士学位就是你的博士学位。这真的只是第一步,如果你渴望在训练中改变世界,这可能会让你失望。尽管要完成的必要贡献微乎其微,但不要去磨练那些能让你接受挑战的技能。比如详细的笔记,严格的编程,以及在一个感兴趣的领域保持最新的习惯,包括与同龄人的接触。这些绝不是一个完整的列表,只是那些我很高兴我继续工作。
 
网友表示赞同,永远记得博士学位只是你的起点绝非重点,这只是你接受教育的一部分而已。
 
 
还有网友表示,这简直跟自传一样!看来每个人的博士生涯都很难过。进入工业界是我做过的最好的决定。“我找到了 x 模型,并把它应用到问题 y 上以得到更好的结果”正是公司所看重的,能够解决问题的人才。
 
 
还有的网友劝他要懂得平凡的可贵,每天比昨天的自己进步一点,就是最大的成就。
 
 
对于我们这些凡人来说,我收到的最好的建议就是“你的论文是你写过的最糟糕的作品”。与我们部门最聪明的人设定的高标准相比,我的简直是垃圾。但是它是完整的,并且通过了检查。
 
不要拿自己和别人比较,只要把自己和去年做比较,然后继续努力。投入时间,做好工作,你就会得到一张证书,上面写着“我可以做自我导向的研究”。并不是所有人都是陶哲轩,我们中的大多数人只是想在这个过程中生存下来,而不是赢得菲尔兹奖。
 
机器学习行业从业者大多经常困惑于自己是算法工程师还是调参侠。
 
 
 
在深度学习浪潮下,有这种困惑也是十分正常,或许我们也应该思考一下,为什么大家普遍会有这种困惑。
 
看了这段话,大家可能多多少少都有所感同身受吧,高学历,却换来更大的失落;工作内容重复,没有看的见的快乐。
 
 
没入行之前,你眼中的AI是改变人类未来。
 
入行之后,你眼中的AI变成了一个个黑盒的模型,我要更多更干净的数据,更庞大的模型!
 
「有多少人工,就有多少智能」,即使在深度学习时代也是如此,各大AI公司首先招聘的就是标注员。科研机构发布新数据集的论文也会公布自己用了多少标注人员,时薪多少美元等。
 
 
而且在互联网高度发达的今天,你想要学习的任何东西都可以在网络上找到,AI入行的门槛从未这么低。
 
 
入门简单,但成为大师却要付出更多的努力,这期间会经历迷茫,例如在reddit上发帖,但最后有所成就的还是那些耐得住学术寂寞的人。
 
不仅仅追随深度学习潮流,而是在其中挖掘属于自己的东西,也许是博士学位能带来的最大收获。
 



参考资料:

https://www.reddit.com/r/MachineLearning/comments/odkdsv/d_growing_beyond_a_deep_learning_phd/


往期精彩:

 TransUNet:基于 Transformer 和 CNN 的混合编码网络

 SETR:基于视觉 Transformer 的语义分割模型

 ViT:视觉Transformer backbone网络ViT论文与代码详解

【原创首发】机器学习公式推导与代码实现30讲.pdf

【原创首发】深度学习语义分割理论与实战指南.pdf

求个在看

浏览 31
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报