提出AI新算法并被頂級會議收錄，面對成果這位北大學霸卻說……

時間：2019-03-14 08:50  作者：  來源：

　　編者按

　　近日，兩位本科生學霸在實習期間研究出了一種新的AI算法，受到了廣泛關(guān)注和熱烈討論。相關(guān)論文不僅被領(lǐng)域主席贊不絕口，還已確認被人工智能頂級會議ICLR 2019收錄。而本期報道的主人公便是“傳說中學霸”、該論文的共同第一作者之一——北京大學地球與空間科學學院駱梁宸。

　　作為一名地球與空間科學學院的大四學生，駱梁宸的學習生活本可能與NLP（注：自然語言處理）算法沒有太多的關(guān)聯(lián)。然而，他參與開發(fā)的AdaBound算法在訓練速度和穩(wěn)定性上都有著優(yōu)于主流算法的表現(xiàn)。

　　AdaBound算法給學習率劃出了動態(tài)變化的界限，實現(xiàn)了從Adam到SGD的漸進和平滑過渡，讓模型在開始階段有和Adam一樣快的訓練速度，后期又能保證和SGD一樣穩(wěn)定的學習率。該算法適用于CV、NLP領(lǐng)域，可以用來開發(fā)解決各種流行任務的深度學習模型，同時，AdaBound算法對超參數(shù)不是很敏感，省去了大量調(diào)參的時間。

　　能夠取得這樣的成果，駱梁宸說這離不開他自身的興趣，更離不開北大所提供的平臺。

　　說到自己的算法，駱梁宸有幾分自豪，也有幾分謙虛。“在機器學習里邊，有一個應用了五六十年的經(jīng)典算法，叫隨機梯度下降。這種算法從數(shù)學上講，是一種一階優(yōu)化算法。這種算法在人工智能研究中屬于基礎(chǔ)中的基礎(chǔ)，很多研究者都需要用到，其重要性不言而喻。它雖然被廣泛地使用，但畢竟時間有些久遠，存在著很多問題。在最近的4到5年內(nèi)，大家提出了很多新的方法想要對原有算法進行改進，目標是能讓它更穩(wěn)定，讓我們的模型學習得更快、更好。這次我也只是基于比較新的研究成果，在它們的基礎(chǔ)上更進一步做了一些推進，得到的算法比之前大家公認那幾個目標訓練得更快、更穩(wěn)定，效果也更好，取得了一點點成效?！?/span>

　　“這個問題很難，所以真正的進步是很小的，但可能因為大家都會用到它，所以哪怕很小的一點點進步，大家也會感興趣。我們的成果實際上并沒有媒體上說得那么夸張，在我們?nèi)?nèi)人自己看來，其實是蠻普通的一個進展?！?/span>

　　在學業(yè)之外，駱梁宸很喜歡探險和運動，他在車協(xié)參加了很多的活動。同時他也是PKUHelper安卓端運營團隊的第二任負責人。PKUHelper是北大學生自主開發(fā)的手機軟件，它融合了課表，北大郵箱，成績查詢，BBS等常用功能，大大方便了同學們的學習生活?；貞浧鹱鯬KUHelper的日子，駱梁宸覺得很充實，但也有遺憾。“當時沒想什么，就是覺得自己的工程能力還可以，有安卓開發(fā)的經(jīng)驗，還能幫助同學。其實我們做得還不夠，有很多東西都很想完善，但因為我們都是在校生，真正用來開發(fā)的時間實在太少了。很多想做的東西都沒有辦法，也沒有時間把它做完，這個確實蠻遺憾的。而且現(xiàn)在，低年級的同學也越來越不愿意參與工程開發(fā)，大家都想去做算法，其實我自己也是這樣，所以很難招到新人。這對于我們來說也是個蠻大的困難?！?/span>

　　說起自己對北大的愛，駱梁宸說自己是始于顏值，終于內(nèi)涵。起初，北大的園林與未名湖的波光讓他心馳神往。作為一名非典型的理科生，駱梁宸對古代經(jīng)典，尤其是四書五經(jīng)有著濃厚的興趣。他在北大不僅能學習本專業(yè)的知識，更有充足的機會廣泛涉獵，發(fā)展興趣。在他看來，北大是一個很包容的地方，不僅是學習和科研，只要你能在一個方面做得足夠好，在這片園子里就會有立足之地，就會受到認可?！拔沂峭耆珣{興趣直接上手寫工程，而且寫的是直接面向客戶的內(nèi)容。這一點反倒是很多信科同學不太擅長的，大家更擅長的是很前沿很理論的算法，但實際做出產(chǎn)品又是另一回事。所以這也可能算是另辟蹊徑的一種。”

　　講到高中的生活，駱梁宸覺得不僅要讀好書，更要對未來有規(guī)劃?！案咧羞€是盡量多拓展自己的興趣，這樣有助于在大學解決自己真正想要做什么的問題。大學基本上都是自主支配的時間，這種問題越早想好就越有利?！睂τ谟兄居谕渡碛嬎銠C領(lǐng)域的學弟學妹們，駱梁宸準備了一句Linus的名言：“Talk is cheap, show me the code.”（注釋：夸夸其談不算什么本事，有本事給我看看代碼）。他很注重實踐操作對計算機專業(yè)的意義，大量的實際編程是提升科研和工程能力的法門。而對于三個月后即將走入高考考場的學生們，駱梁宸很希望大家能珍惜最后的時光?！案咧衅鋵嵧玫?，雖然有時候會累會苦，但是等到上了大學再回頭看，能記住的就都是快樂的日子，順其自然過來就好了?！?/span>

　　習慣了自由的駱梁宸還沒有決定好自己的未來。大四的他打算秋天先到國外做一期助研或者訪問學者，然后再決定是否讀博士。不過不管走到哪里，駱梁宸都已經(jīng)習慣了北大給他帶來的一切。

　　“自己已經(jīng)把迷茫留在這里，可以清醒地做一些事情了?！?/span>

　　他如是說。