提出AI新算法并被頂級會議收錄，面對成果這位北大學(xué)霸卻說……

時間：2019-03-14 08:50  作者：  來源：

　　編者按

　　近日，兩位本科生學(xué)霸在實習(xí)期間研究出了一種新的AI算法，受到了廣泛關(guān)注和熱烈討論。相關(guān)論文不僅被領(lǐng)域主席贊不絕口，還已確認(rèn)被人工智能頂級會議ICLR 2019收錄。而本期報道的主人公便是“傳說中學(xué)霸”、該論文的共同第一作者之一——北京大學(xué)地球與空間科學(xué)學(xué)院駱梁宸。

　　作為一名地球與空間科學(xué)學(xué)院的大四學(xué)生，駱梁宸的學(xué)習(xí)生活本可能與NLP（注：自然語言處理）算法沒有太多的關(guān)聯(lián)。然而，他參與開發(fā)的AdaBound算法在訓(xùn)練速度和穩(wěn)定性上都有著優(yōu)于主流算法的表現(xiàn)。

　　AdaBound算法給學(xué)習(xí)率劃出了動態(tài)變化的界限，實現(xiàn)了從Adam到SGD的漸進(jìn)和平滑過渡，讓模型在開始階段有和Adam一樣快的訓(xùn)練速度，后期又能保證和SGD一樣穩(wěn)定的學(xué)習(xí)率。該算法適用于CV、NLP領(lǐng)域，可以用來開發(fā)解決各種流行任務(wù)的深度學(xué)習(xí)模型，同時，AdaBound算法對超參數(shù)不是很敏感，省去了大量調(diào)參的時間。

　　能夠取得這樣的成果，駱梁宸說這離不開他自身的興趣，更離不開北大所提供的平臺。

　　說到自己的算法，駱梁宸有幾分自豪，也有幾分謙虛?！霸跈C(jī)器學(xué)習(xí)里邊，有一個應(yīng)用了五六十年的經(jīng)典算法，叫隨機(jī)梯度下降。這種算法從數(shù)學(xué)上講，是一種一階優(yōu)化算法。這種算法在人工智能研究中屬于基礎(chǔ)中的基礎(chǔ)，很多研究者都需要用到，其重要性不言而喻。它雖然被廣泛地使用，但畢竟時間有些久遠(yuǎn)，存在著很多問題。在最近的4到5年內(nèi)，大家提出了很多新的方法想要對原有算法進(jìn)行改進(jìn)，目標(biāo)是能讓它更穩(wěn)定，讓我們的模型學(xué)習(xí)得更快、更好。這次我也只是基于比較新的研究成果，在它們的基礎(chǔ)上更進(jìn)一步做了一些推進(jìn)，得到的算法比之前大家公認(rèn)那幾個目標(biāo)訓(xùn)練得更快、更穩(wěn)定，效果也更好，取得了一點點成效?！?/span>

　　“這個問題很難，所以真正的進(jìn)步是很小的，但可能因為大家都會用到它，所以哪怕很小的一點點進(jìn)步，大家也會感興趣。我們的成果實際上并沒有媒體上說得那么夸張，在我們?nèi)?nèi)人自己看來，其實是蠻普通的一個進(jìn)展。”

　　在學(xué)業(yè)之外，駱梁宸很喜歡探險和運動，他在車協(xié)參加了很多的活動。同時他也是PKUHelper安卓端運營團(tuán)隊的第二任負(fù)責(zé)人。PKUHelper是北大學(xué)生自主開發(fā)的手機(jī)軟件，它融合了課表，北大郵箱，成績查詢，BBS等常用功能，大大方便了同學(xué)們的學(xué)習(xí)生活。回憶起做PKUHelper的日子，駱梁宸覺得很充實，但也有遺憾?！爱?dāng)時沒想什么，就是覺得自己的工程能力還可以，有安卓開發(fā)的經(jīng)驗，還能幫助同學(xué)。其實我們做得還不夠，有很多東西都很想完善，但因為我們都是在校生，真正用來開發(fā)的時間實在太少了。很多想做的東西都沒有辦法，也沒有時間把它做完，這個確實蠻遺憾的。而且現(xiàn)在，低年級的同學(xué)也越來越不愿意參與工程開發(fā)，大家都想去做算法，其實我自己也是這樣，所以很難招到新人。這對于我們來說也是個蠻大的困難?！?/span>

　　說起自己對北大的愛，駱梁宸說自己是始于顏值，終于內(nèi)涵。起初，北大的園林與未名湖的波光讓他心馳神往。作為一名非典型的理科生，駱梁宸對古代經(jīng)典，尤其是四書五經(jīng)有著濃厚的興趣。他在北大不僅能學(xué)習(xí)本專業(yè)的知識，更有充足的機(jī)會廣泛涉獵，發(fā)展興趣。在他看來，北大是一個很包容的地方，不僅是學(xué)習(xí)和科研，只要你能在一個方面做得足夠好，在這片園子里就會有立足之地，就會受到認(rèn)可。“我是完全憑興趣直接上手寫工程，而且寫的是直接面向客戶的內(nèi)容。這一點反倒是很多信科同學(xué)不太擅長的，大家更擅長的是很前沿很理論的算法，但實際做出產(chǎn)品又是另一回事。所以這也可能算是另辟蹊徑的一種?！?/span>

　　講到高中的生活，駱梁宸覺得不僅要讀好書，更要對未來有規(guī)劃?！案咧羞€是盡量多拓展自己的興趣，這樣有助于在大學(xué)解決自己真正想要做什么的問題。大學(xué)基本上都是自主支配的時間，這種問題越早想好就越有利?！睂τ谟兄居谕渡碛嬎銠C(jī)領(lǐng)域的學(xué)弟學(xué)妹們，駱梁宸準(zhǔn)備了一句Linus的名言：“Talk is cheap, show me the code.”（注釋：夸夸其談不算什么本事，有本事給我看看代碼）。他很注重實踐操作對計算機(jī)專業(yè)的意義，大量的實際編程是提升科研和工程能力的法門。而對于三個月后即將走入高考考場的學(xué)生們，駱梁宸很希望大家能珍惜最后的時光?！案咧衅鋵嵧玫模m然有時候會累會苦，但是等到上了大學(xué)再回頭看，能記住的就都是快樂的日子，順其自然過來就好了。”

　　習(xí)慣了自由的駱梁宸還沒有決定好自己的未來。大四的他打算秋天先到國外做一期助研或者訪問學(xué)者，然后再決定是否讀博士。不過不管走到哪里，駱梁宸都已經(jīng)習(xí)慣了北大給他帶來的一切。

　　“自己已經(jīng)把迷茫留在這里，可以清醒地做一些事情了。”

　　他如是說。