14岁考入清华,22岁博士四年级,杜克大学杨幻睿的AI成长之路
极市导读
杨幻睿,从14岁的天才少年参加高考进入清华到如今论文被NeurIPS 2020接收为最优等级的Oral的杜克大学22岁的博士,一位风华正茂的才子的AI成长之路。 >>加入极市CV技术交流群,走在计算机视觉的最前沿
1 集成模型 | 择其善者而从之,其不善者而改之
这篇论文主要就是利用集成模型的思想,可以形容为“三人行,必有我师焉,择其善者而从之,其不善者而改之” ——杨幻睿
2 北京八中 | 恰同学少年,风华正茂
在八中少儿班的四年感觉是我最意想不到但又最至关重要的经历,也是我14岁就能参加高考的原因。——杨幻睿
我是从清华附小考入八中少儿班的,清华附小的教育方式特别快乐,也不搞奥数什么的。 不过现在想起来附小的教育对我的各个学科,尤其是语文英语打下的基础还是相当好的,另外当时附小的老师也很支持我在课外自行学奥数扩展思维,我也正是在学奥数的过程中了解到了八中少儿班的招生。
杨幻睿入学八中少儿班时,先经全市报名,之后进行初试和复试,选拔60个人进入为期一周的试读夏令营,最终录取29人。
在少儿班这四年间,每次旅行都给我不一样的心灵震撼。 从百里峡到上方山,从五大连池到科罗拉多大峡谷,旅行向我们展示多彩的世界;从云冈石窟到孔林孔庙,从大同煤矿到大庆油田,游学为我们提供了社会实践的机会。一次次的出行,不仅锻炼自理能力,更增强我们面对陌生世界的勇气。 我在阅读中思考,在思考中阅读。 从《围城》到《平凡的世界》,从《山居笔记》到《美的历程》,从《唐诗百话》到《人间词话》。从《读者》到《新闻周刊》...... 手捧一卷卷书册,我的心灵自爱阅读中成熟。阅读不仅解释了自然科学的神秘,更展示了丰富的人生,激发我的思考。
14岁那年,少年杨幻睿以高考697分的成绩考入了清华大学。
3 清华大学本科 | 小荷才露尖尖角
其实我那年是697+50分加分,30分是清华自招,20分是北京市优秀学生干部,因为我本身够分数线了,所以社会加分就没用了。
但自招的加分选专业还可以用,所以我理论上是可以去绝大多数的统招专业的。——杨幻睿
韩松前辈是我的学习偶像,他当年也是在电子系,算是我的直系学长,他12年就从清华毕业了,而我是13年入学,很遗憾,我和他并未在清华见过。
当时之所以想到要做片上训练,是因为杨幻睿注意到:“在很多物联网的场景下,部署之后的网络可能需要根据输入数据进行微调,而这些微调往往就是在最后的全连接层中进行的,所以设计一个支持训练的全连接层加速器很有意义。
最后,杨幻睿的毕业论文被评为清华大学优秀毕业论文
4 杜克大学博士 | 直挂云帆济沧海
在毕业设计的导师刘勇攀教授的介绍下,我才能认识现在的博士导师陈怡然教授和李海教授,真的非常感谢刘导。——杨幻睿
由于毕业设计和模型压缩相关,偏硬件,而陈老师实验室做的正是软硬件结合的方向,杨幻睿觉得很有前景,于是在2017年两位老师搬来杜克时一起跟着过来了,成为这个组在杜克的第一届学生。
而学术之外,在杜克的生活当然也有轻松愉快的一面。当时为欢迎新同学的到来,杨幻睿所在组简单聚餐:
杨幻睿博士刚开始时的工作和硬件关系更大一些,参与了两个深度学习加速器架构的工作。与此同时,也逐渐了解了组里关于深度学习模型压缩与神经网络鲁棒性方面的前期工作。
5 回首与展望 | 博观约取,厚积薄发
从小,他父亲就经常和他一起读书,曾用曹丕《典论 · 论文》中的话教导他:
“盖文章,经国之大业,不朽之盛事。年寿有时而尽,荣乐止乎其身,二者必至之常期,未若文章之无穷”。
这培养了他后来对科研工作的坚定志向和笃志决心。
关于自己的学习秘诀,杨幻睿总结了两点分享给大家:
第一,在潜移默化中学习,上课听到的知识、读的论文、听的讲座、和同学日常的讨论,都能很快地总结出几个关键词记住,之后再遇到可能的应用场景时快速地回去学习一下细节。
第二,给别人讲,如果能给别人讲明白,说明自己也明白了。我不喜欢刷题,但喜欢给别人讲题,在当年高三大复习的时候,我经常答疑时间去老师办公室,给暂时排在队尾的同学一对一答疑。每位同学对知识的掌握程度不一样,讲题之前要先解对方知道什么并在此基础上帮对方构建好知识体系,把对方知道的点和新的知识建立起联系,逐渐引到要讲的问题上。
这些基础课的大部分相关知识是杨幻睿在清华期间学习的,时间过去久了,很多概念的具体细节记不清,但好在他对知识点之间的联系还有印象,有人问起来他就快速地看课件复习一下。“没办法,当助教全靠学的比学生快。”他说。
在博士第三年的秋季和当前这个学期,杨幻睿帮李老师开了一门新课,作为助教,他谈起自己的心得:“在准备课件的时候要假设大家是零基础,要从最基本的东西开始,一步步为大家建立起对深度学习技术来源与发展的理解,讲清楚为何会有这个技术 ,在这个过程中也是对自己知识的一个梳理。”
除了读书之外,杨幻睿还很喜欢 F1、NBA、冰球等各种体育比赛,也喜欢开车在大山里闲逛,时不时以景咏怀,即兴赋诗。
冰球比赛现场照片
杨幻睿的偶像,除了之前提到的韩松学长,还有恺明大神,他对其十分敬佩,ResNet是他最喜欢的网络,恺明大神提出的很多东西都给他一种“四两拨千金”的感觉:理论简洁、效果强大、直达本质。
“感觉自己的学术生涯还刚刚起步,发的论文也还不多,我会继续努力,漫漫其修远兮,吾将上下而求索。"
当下22岁的杨幻睿对未来的学术之路充满了探索的决心和信心,显示了一位正当风华正茂之年岁的学术青年的昂扬姿态。
推荐阅读
AI女神李飞飞:成为顶尖科学家的人生路 IEEE历史上首位华人主席诞生!马里兰大学首席教授刘国瑞当选,无线AI因他而改变! 剑桥2020年度AI报告:学术人才涌向产业,八大预测看明年(附下载)丨智东西内参
ACCV 2020国际细粒度网络图像识别竞赛正式开赛!