深度学习博士发出灵魂拷问:我是在做算法还是在调参?

共 2830字,需浏览 6分钟

 ·

2021-07-14 09:43

↑ 点击蓝字 关注极市平台

来源丨新智元
编辑丨极市平台

极市导读

 

一个小哥读了博,并且还是最火的深度学习博士,主要研究领域为计算机视觉和自然语言处理,但他每天却都很苦恼,感觉自己不是在做科研,而是在做工程! >>加入极市CV技术交流群,走在计算机视觉的最前沿

最近Reddit上有一个帖子又火了!
 
一个小哥读了博,并且还是最火的深度学习博士,主要研究领域为计算机视觉和自然语言处理,但他每天却都很苦恼,感觉自己不是在做科研,而是在做工程!
 
 
他在Reddit论坛上求助网友,如何让对在学术上没有取得特别优秀成就的他成功取得博士学位。
 
文中他说自己正在攻读机器学习的博士学位,主要从事深度学习,并且还基于此有了一些会议上的论文,但是这些会议并不是公认的顶级会议。
 
尽管不是顶会,但是审稿人对他的要求和回复还都是相当苛刻的。
 
他也明白他们为什么这么挑剔,坦言自己不是一个优秀的学生,实验室也不是一个优秀的实验室,所做的主要工作就是重新使用现有的方法为不同的领域,例如使用一个 ResNet 用来做医疗成像,或是基于Transformer的音乐分类。
 
和其他人相比,他自认为严重缺乏数学背景知识,即使努力阅读,也经常立即忘记那些实际上并没有用到的概念,甚至都不会计算矩阵的秩是多少,更不用说如何使用它了。
 
这就是为什么没有真正想出新方法的部分原因,更擅长组合现有的东西,但有时感觉不像是研究,而更像是工程学。
 
因为贡献比较平庸,所以小哥不认为他能够在学术界有所作为,所以未来可能会在这个行业内找一份工作,而不是去大学谋一份教职。
 
最后这位小哥希望网友们对他的博士生涯给他两个建议(1)提高
 
如果在周末有剩余的精力,也许应该做一些副业?
 
对此,网友表示,这不是一个简单的问题。
 
 
最终,你的博士学位就是你的博士学位。这真的只是第一步,如果你渴望在训练中改变世界,这可能会让你失望。尽管要完成的必要贡献微乎其微,但不要去磨练那些能让你接受挑战的技能。比如详细的笔记,严格的编程,以及在一个感兴趣的领域保持最新的习惯,包括与同龄人的接触。这些绝不是一个完整的列表,只是那些我很高兴我继续工作。
 
网友表示赞同,永远记得博士学位只是你的起点绝非重点,这只是你接受教育的一部分而已。
 
 
还有网友表示,这简直跟自传一样!看来每个人的博士生涯都很难过。进入工业界是我做过的最好的决定。“我找到了 x 模型,并把它应用到问题 y 上以得到更好的结果”正是公司所看重的,能够解决问题的人才。
 
 
还有的网友劝他要懂得平凡的可贵,每天比昨天的自己进步一点,就是最大的成就。
 
 
对于我们这些凡人来说,我收到的最好的建议就是“你的论文是你写过的最糟糕的作品”。与我们部门最聪明的人设定的高标准相比,我的简直是垃圾。但是它是完整的,并且通过了检查。
 
不要拿自己和别人比较,只要把自己和去年做比较,然后继续努力。投入时间,做好工作,你就会得到一张证书,上面写着“我可以做自我导向的研究”。并不是所有人都是陶哲轩,我们中的大多数人只是想在这个过程中生存下来,而不是赢得菲尔兹奖。
 
机器学习行业从业者大多经常困惑于自己是算法工程师还是调参侠。
 
 
 
在深度学习浪潮下,有这种困惑也是十分正常,或许我们也应该思考一下,为什么大家普遍会有这种困惑。
 
看了这段话,大家可能多多少少都有所感同身受吧,高学历,却换来更大的失落;工作内容重复,没有看的见的快乐。
 
 
没入行之前,你眼中的AI是改变人类未来。
 
入行之后,你眼中的AI变成了一个个黑盒的模型,我要更多更干净的数据,更庞大的模型!
 
「有多少人工,就有多少智能」,即使在深度学习时代也是如此,各大AI公司首先招聘的就是标注员。科研机构发布新数据集的论文也会公布自己用了多少标注人员,时薪多少美元等。
 
 
而且在互联网高度发达的今天,你想要学习的任何东西都可以在网络上找到,AI入行的门槛从未这么低。
 
 
入门简单,但成为大师却要付出更多的努力,这期间会经历迷茫,例如在reddit上发帖,但最后有所成就的还是那些耐得住学术寂寞的人。
 
不仅仅追随深度学习潮流,而是在其中挖掘属于自己的东西,也许是博士学位能带来的最大收获。
 



参考资料:

https://www.reddit.com/r/MachineLearning/comments/odkdsv/d_growing_beyond_a_deep_learning_phd/


如果觉得有用,就请分享到朋友圈吧!

△点击卡片关注极市平台,获取最新CV干货

公众号后台回复“79”获取CVPR 2021:TransT 直播链接~


极市干货
YOLO教程:一文读懂YOLO V5 与 YOLO V4大盘点|YOLO 系目标检测算法总览全面解析YOLO V4网络结构
实操教程:PyTorch vs LibTorch:网络推理速度谁更快?只用两行代码,我让Transformer推理加速了50倍PyTorch AutoGrad C++层实现
算法技巧(trick):深度学习训练tricks总结(有实验支撑)深度强化学习调参Tricks合集长尾识别中的Tricks汇总(AAAI2021
最新CV竞赛:2021 高通人工智能应用创新大赛CVPR 2021 | Short-video Face Parsing Challenge3D人体目标检测与行为分析竞赛开赛,奖池7万+,数据集达16671张!



CV技术社群邀请函 #

△长按添加极市小助手
添加极市小助手微信(ID : cvmart2)

备注:姓名-学校/公司-研究方向-城市(如:小极-北大-目标检测-深圳)


即可申请加入极市目标检测/图像分割/工业检测/人脸/医学影像/3D/SLAM/自动驾驶/超分辨率/姿态估计/ReID/GAN/图像增强/OCR/视频理解等技术交流群


每月大咖直播分享、真实项目需求对接、求职内推、算法竞赛、干货资讯汇总、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企视觉开发者互动交流~



觉得有用麻烦给个在看啦~  
浏览 19
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报