今天小編分享的科學經驗:上海交大新聘AI博導,27歲!,歡迎閱讀。
一份高校教職任命引發全網熱議,衝上熱搜第一:
1997 年出生的清華叉院畢業生張林峰,今年 6 月拿下博士學位,現已擔任上海交通大學人工智能學院助理教授、博士生導師,領導 EPIC (Efficient and Precision Intelligent Computing ) )實驗室。
1997 年在濰坊出生,那就是才 27 歲啊!
張林峰的個人主頁顯示,他的研究方向包括大模型量化、高效推理等。
此前,已發表一作和通訊作者論文 20 餘篇,谷歌學術被引數超 2000 次。
其中,最高引論文面向模型壓縮方向,是張林峰大四時候完成的項目。
不僅單篇被引數過 1000,還被同方向大神 MIT 副教授韓松(2023 年斯隆研究獎得主、深鑑科技聯合創始人),寫進了《TinyML and Efficient Deep Learning Computing》這門課程的 Lecture 9《Knowledge Distillation》。
一時之間,各大平台都在讨論這位新晉博導,不僅在知乎浏覽量超 80 萬,還在微博熱搜第一挂了 6 個小時,閱讀量近 6000 萬。
網友圍觀感慨之餘,有打趣的,be like:
更多的是贊嘆,這教科書版的人生,每一步都值得借鑑。
27 歲的上交大博導
張林峰本科畢業于東北大學計算機科學與工程學院,是 2019 年的優秀畢業生。
本科畢業後,張林峰直博進入清華大學交叉信息研究院,師從副教授馬恺聲。
讀博期間,張林峰發表了 20 餘篇論文,其中有 13 篇都是一作。
自 2020 年起,他還常年擔任 NeurIPS,ICML,ICLR,CVPR,ECCV,ICCV,AAAI、IJCAI、IEEE TPAMI、IEEE TCSVT、IEEE TIP 等眾多學術會議與期刊的審稿人。
今年 6 月順利畢業時,張林峰同時獲北京市優秀畢業生,清華大學優秀博士論文,清華大學啟航獎金獎,交叉信息研究院優秀畢業生,并作為學院代表在參與清華大學畢業生座談會,在畢業典禮上發言。
今年 8 月,他又在香港科技大學(廣州)的人工智能學網域助理教授、副研究員以及博士生導師胡旭明的邀請下,赴香港科技大學(廣州)兼任訪問助理教授。
他的主要研究方向為高效的人工智能,包括大模型、人工智能數據集的壓縮與加速等,大概如下:
輕量高效的語言 / 多模态大模型
輕量高效的 AIGC 模型
數據高效的人工智能
據他個人主頁介紹,他的研究成果已在華為、交叉信息核心技術研究院等公司 / 機構中得到使用。
翻看張林峰的谷歌學術主頁,截至本文發稿,他的被引數為 2223 次。
最高引論文《Be your own teacher: lmprove the performance of convolutional neuranetworks via self distillation》(《通過自蒸餾提高卷積神經網絡的性能》)發表于 ICCV2019,也就是張林峰大四的時候。
他是論文一作,同時這篇論文也是他博導馬恺聲的最高引論文(doge)。
這篇文章提出一種自蒸餾方法:使用模型的深層來蒸餾淺層。
該方法将目标 CNN 按深度和原始結構劃分為幾個淺層部分,在每個淺層部分後設定一個由瓶頸層和全連接層組成的分類器(僅在訓練時使用,推理時可移除)。
訓練時,所有淺層部分及其分類器作為學生模型,通過蒸餾從最深層部分(視為教師模型)獲取知識。
在顯著提高 CNN 性能的同時,訓練時間也更短。
這篇論文首次證明了知識蒸餾中的教師模型并非必需,推動了無教師知識蒸餾領網域的發展。
《人民日報》微信公眾号今早也發布了一篇介紹張林峰的推文。
其中寫道,畢業時,張林峰放棄了多家企業給出的百萬薪資,選擇到上海交通大學人工智能學院任教,開展科研與教育工作。
張林峰表示:
我覺得做科研是一件很好玩兒的事。
有一個好老師去引導是非常重要的。在清華時,我的導師就曾經很好地引導了我的科學之路。
我也想為更多的同學營造一個有趣、有意義的科研環境。
年輕博士成 AI 科研主力軍
像張林峰這樣并非個例,越來越多的博士年紀輕輕就開始當博導,成為 AI 科研的主力軍。
他的導師馬恺聲就是一位。
目前他是清華大學叉院助理教授、博士生導師,2018 年才從賓夕法尼亞州立大學計算機科學與工程系博士畢業,同年被姚期智招募回國,并入職清華大學。而張林峰應該算得上他第一波帶出來的博士生。
他的主要研究方向包括 Chiplet 後摩爾時代體系架構、AI 算法設計等,曾設計出全模式稀疏與量化結合的 AI 芯片 " 啟明 910" 和 " 啟明 920",在此基礎上,設計了基于 Chiplet 技術的大算力芯片 " 啟明 930",在良率、成本、迭代速度方面達到領先水平。
還有今年曾邀請過他去港科大(廣州)訪問的胡旭明教授。
今年 1 月,他才從清華大學軟體學院博士畢業,3 月加入香港科技大學(廣州)人工智能學網域副研究員、助理教授、博士生導師。本科畢業于大連理工大學。
他的研究方向包括自然語言處理和大語言模型,具體包括可信大語言模型探究、大語言模型的蒸餾、加速以及垂類大語言模型的訓練研發。博士期間師從 Philip S. Yu 教授,是 ACM/IEEE Fellow。谷歌學術顯示,被引次數接近 1500 次。
近年來,重慶大學、南方醫科大學、浙江大學等都有非常非常年輕優秀的人入職當博導、教授。
比如像 2021 年 1 月,年僅 25 歲的馮磊加入重慶大學計算機學院工作。據稱是該學院首次直接給應屆博士畢業生博導崗位。他只花了三年時間,就從新加坡南洋理工大學博士畢業,主要研究方向包括機器學習、數據挖掘、AI 等。
AI 蓬勃發展加速落地應用,對創新和前沿研究的需求十分迫切。
能夠看到的是,這些年輕博士在大學期間就取得了顯著的科研成果,其創新思維和科研實力也讓他們成為 AI 科研主力軍,受到學界認可
這當然也離不開高校和科研機構,他們越來越注重人才培養和引進,讓更多的年輕學者施展拳腳。
本人回應:不希望給大家帶來年齡焦慮
對于這幾天在網上受到的關注,張林峰透過人民日報也做了一些回應。
他表示,
AI 也是很年輕的學科,年輕人是 AI 研究的主力軍,不希望給大家帶來年齡焦慮。
作為一個做科研的人,因為 " 年輕 " 被大家關注到,會感到有些不安。
未來,希望可以讓更多人因為科研成果認識我。
此外,他還透露之後他研究方向仍聚焦在 AI,希望在大模型發展道路上探索一條高效發展方式。
參考鏈接:
[ 1 ] http://www.zhanglinfeng.tech/
[ 2 ] https://xuminghu.github.io/
[ 3 ] https://www.tsinghua.edu.cn/info/1175/97093.htm
[ 4 ] https://mp.weixin.qq.com/s/l1_rWfwkh1vDCgMD5HSTyQ
[ 5 ] https://mp.weixin.qq.com/s/t4ofA8sbYEoD8EXpuBB_gQ
[ 6 ] https://hanlab.mit.edu/courses/2024-fall-65940