人生重開模擬器渡劫成功技巧(30歲二刷博士17個月發6篇一作獲頂會最佳)
2023-04-13 00:34:03 2
夢晨 楊淨 博雯 發自 凹非寺
量子位 報導 | 公眾號 QbitAI
一個34歲畢業的博士,如何評價?
如果還是一個志在科研,二刷博士學位的人呢?
最近,這樣一個博士生在學界引發熱議,不是因為他的得,而是因為他的舍。一個原本打算博士後進修的畢業博士,得知未來科研教職可能會受學校排名影響,向博士後「同事」提出了問題:
如果我來這裡再讀一個博士呢?
他叫李昂,拜杜克大學陳怡然教授門下,研究聯邦學習。
就在前幾天,他的論文被ACM主辦的嵌入式網絡傳感器系統會議SenSys收錄。
這是自去年4月份以來第六篇以第一作者身份被會議收錄!還曾獲KDD 2020最佳學生論文。
他被陳怡然盛讚是「系統層次研究聯邦學習的新星」,
我並不是系統研究的專家,與其說我在技術上教了他什麼,不如說他帶著我學習了四年。
而更令人感嘆的是,他瘋狂產出背後的勵志求學經歷。
他本科就讀於河南大學,之後在北京大學攻讀軟體工程碩士。
畢業工作一年後,放棄銀行高薪工作只身前往阿肯色大學,攻讀計算機博士。
之後第二次讀博,被陳怡然教授破格錄取。
在與量子位的交流中,他強調:
任何時間都不能算晚。
因為沒有所謂的起點和終點,最重要的還是最終能達到你自己想要的目標。
現實版人生重開模擬器李昂在河南大學計算機專業讀本科時就有想過要做研究,然後到北大軟體工程專業讀了碩士。
畢業後他在北京的銀行當了一年的管培生,做的是金融管理方向。
在銀行的工作雖然很愜意,但李昂還是覺得這種生活狀態並不是自己真正想追求的。
一年後,他決定從銀行辭職去讀博,繼續追求自己的學術理想。
李昂的第一個博士就讀於美國阿肯色大學計算機科學專業,計算機學科並非這所學校的強項。
於是他打算繼續從事博士後研究。而目標,是他一直關注的杜克大學陳怡然教授。
由於簡歷不夠出色,當年他申請陳怡然教授的博士後時也只是抱著試試看的心態,沒想過陳老師能夠回復他。
△當年陳怡然教授的博士後招收啟示
沒想到的是,陳老師不僅聯繫了李昂,還與他進行了一次比較深入的交流。
雖然如今,陳老師回憶起當年開玩笑稱,是因為他的母校——河南大學,跟自己父母一個學校,於是就在人群中多看了一眼。
但李昂在當時那次交流中,感受到了陳老師是發自內心的去嘗試理解一個學生的學術理想和職業規劃,而不是僅從紙面上去判斷一個學生。
當李昂問出「如果我來您這裡再讀一個博士會怎樣?」那個改變他一生的問題時,陳怡然給出的回答是:
如果你有這個決心,一切皆有可能。
在採訪中李昂總結道,他選擇第二次讀博的內因是他自身對學術的執著和熱愛,而外因就是對陳老師的欽佩和崇拜。
△陳怡然教授
以30歲的年紀重讀博士,李昂比組裡的其他同學都要大上不少,而讓他焦慮的還不只是年齡。
讀第一個博士的時候,李昂的主要研究方向是和移動計算相關的隱私保護和安全問題。
在陳老師主要做的AI相關研究上,李昂覺得自己這方面知識積累不夠充分,對AI領域的發展也不是很熟悉。
那時候他心裡很著急,總在想怎麼能快速尋找到一個突破點,儘快展開研究來追趕上這個差距。
出於這樣的心態,李昂天天跑到導師陳怡然的辦公室裡去,跟他講文章的思路。
陳怡然卻勸他不要著急發文章,要從研究方法學起,尋找問題、發現問題、解決問題以及最後怎麼用論文的形式把成果展現出來。
這種對完整科研體系的訓練,正是李昂在之前的學習和研究經歷中所缺乏的。
後來,李昂在杜克大學的研究工作逐步走入正軌。
最開始的時候,他的論文常被拒稿。
李昂一方面陷入了對自己能力的懷疑,另一方面對審稿人也產生了負面情緒。
陳怡然就用自己的科研經驗去開導他:
如果你一直用牴觸的情緒去看待審稿人給你提的客觀建議的話,對你研究的提升沒有任何幫助。
從2019年的一篇投往Infocomm被拒稿的論文開始,李昂的心態慢慢發生轉變。
他嘗試站在審稿人的立場上去思考,究竟是自己的研究欠缺?還是論文的展現方式上有不足?
按著這個思路,最終李昂和團隊對文章進行了大改,又補充了非常多的實驗數據。
修改後再次投往MobiHoc 2020會議,就比較順利的被接受了。
這也是李昂以一作身份在國際學術會議上發表的第1篇論文。
隨後李昂對自己越來越自信,走上了「科研快車道」。
從2020年4月開始,他的論文連續被MobiHoc,KDD,IoTDI,MobiCom,SEC,SenSys收錄,並獲得KDD 2020最佳學生論文和SEC2019最佳海報獎。
李昂卻說所謂快車道只是外界從產出角度看到的結果,背後是一個長期積累,量變到質變的過程。
他在二次讀博期間積累了大量領域相關的理論知識,閱讀了大量文獻。
除了一直持續關注學術會議和期刊上的論文,還一直關注工業界發展的趨勢。
在銀行的工作經歷讓他能夠積極主動和前輩和同學進行交流。
當然也離不開陳怡然老師的指導,對他採購各種實驗設備的支持,以及對他參與國際學術交流的鼓勵。
最關注隱私計算說了這麼多,你是否好奇李昂到底研究的什麼領域,能受到眾多學術會議的青睞。
拿這篇剛剛被SenSys收錄的文章來說,就提出了一種新的聯邦學習框架
△圖源:截自李昂朋友圈
這一框架能降低97%的通信成本,提高模型訓練和推斷效率,還能解決聯邦學習訓練過程中的數據異質性問題。
具體分為以下三個方面:
在聯邦學習的訓練過程中傳遞二值掩碼(而非本地模型的參數)利用客戶端本地的數據學習二值掩碼,通過嵌入本地數據的個性化信息解決數據異質性問題對本地模型的參數進行凍結,並加入一些結構稀疏化的約束而論文的主題聯邦學習,正是李昂博士所研究的主要方向之一。
他表示,自己整體的研究方向該是比較偏應用的系統,但具體研究內容還是和理論密不可分。
比如差分隱私技術,就需要非常紮實的統計學理論知識作為基礎。
聯邦學習目前所面臨的挑戰:通信成本、數據異質性、計算能力或性能的不足,正是他現階段主要研究的問題。
同時,尋找更好的隱私保護技術,也就成為了李昂博士的第二個研究方向。
在這篇KDD 2020最佳學生論文中,他就提出了一種用於隱私保護的數據眾包框架:TIPRDC。
實驗證明,這是一種在效用-隱私的權衡上優於現有的其他方法的框架。
具體的,TIPRDC框架能夠隱藏中間表徵中的隱私信息,同時最大限度地保留原始數據中嵌入的原始信息,以供數據收集器完成未知的學習任務。
也就是說,能在保護個人隱私的前提下,進行更便利的大數據收集。
在這種框架下,更大規模的深度學習模型及應用,也就能得到更好的訓練和開發。
但應用在實際部署時,又常常受到計算資源的限制。
這也就來到了李昂博士的第三個研究方向:開發基於邊緣端/伺服器端的協同計算框架。
發表在邊緣計算會議SEC 2021的這篇論文,就提出了部署在邊緣設備上,通信效率更高的模型LotteryFL:
這一框架能夠將推理準確率提高17.24%,並將通信成本減少了2.94%。
而縱觀李昂博士已發表的論文,不難看出,隱私保護是他當前最關心的問題。
在接受採訪時,李昂博士也表示,在現在這個物聯網設備高度普及的生活環境下,我們所面臨的隱私洩露的風險,比以往的任何時候都要高。
比如,像我們日常隨處可見的虛擬助手、智能拍攝,還有各種各樣的智能設備,都無時無刻地收集著我們的個人數據。
但大多數用戶對這些數據的存儲地點、流向,以及具體的使用場景完全不清楚。
如何保證數據流動的透明性,並向用戶提供更明確的權限來管理這些數據?
李昂博士認為,這是一個非常值得深入研究的問題。
任何時間都不算晚如今李昂即將畢業,獲得第二個博士學位。
他仍堅持當初做研究的志向,打算在學界找一份教職。
談及科研初心,李昂回憶起剛上大學對賈伯斯的崇拜。
尤其感念於那種用不斷迭代的智能設備、持續進步的科技,真正改變世界和人類生活的力量。
就連當下被問會推薦什麼書籍,他也毫不猶豫地提起《賈伯斯傳》
這也就成為李昂最原始的動力,也是做研究的終極目標。
而在慢慢接觸研究之後,李昂對科研的喜愛更進一步:它能給予我最大的自由度,
一方面,可以展開想像,去探索我想要了解的前沿領域。
另一方面,利用前沿技術來改變日常生活,亦或是融入到社會生產中去解決問題。
也正因為這樣的原因,以及身邊家人、同事以及陳怡然教授的鼎力支持,他才能一步一步抵抗外界非議,始終堅定地走科研這條路。
如此勵志的求學經歷,也激勵了不少人。
有網友表示:是呀,有決心的話其實很多事情都能做!
還有人突然對讀博感興趣了。
我也想高齡讀個博士。
也有網友感同身受,想到了自己的人生經歷。
從二本一路走來,也真的對科研有著嚮往。現在剛開始第二年博後。
但正如李昂所強調的那樣,任何時候都不算晚,只要堅持自己的理想。
對於一些立志想科研的人,他給出了這些建議。
第一點,不要著急,一定要靜下心來踏踏實實去做自己的研究。
第二點,找到真正的興趣,明確自己想要什麼。當明確了自己的夢想和目標之後,就要開始提早規劃自己的未來,然後剩下就是付出努力了。
這一點尤為關鍵,尤其在讀博期間的瓶頸期,心態會改變很多事情。
特別的,李昂對正在從事交叉學科研究的同學們,提到了三個必備能力。
快速學習,對專業研究的甄別能力和交流協作的能力。
最後,祝福李昂博士一帆風順,心想事成!
Ps:歡迎學界的各位學者和老師,隨時與我們取得聯繫,多多交流( ̄︶ ̄),聯繫郵箱:[email protected]
主頁:https://sites.duke.edu/angli/
參考連結:[1]https://weibo.com/2199733231/KxhNi2MXH
[2]https://www.linkedin.com/in/ang-li-3658273b
— 完 —
量子位 QbitAI · 頭條號籤約
關注我們,第一時間獲知前沿科技動態
,