提出AI新算法并被頂級(jí)會(huì)議收錄，面對(duì)成果這位北大學(xué)霸卻說……

時(shí)間：2019-03-14 08:50  作者：  來源：

　　編者按

　　近日，兩位本科生學(xué)霸在實(shí)習(xí)期間研究出了一種新的AI算法，受到了廣泛關(guān)注和熱烈討論。相關(guān)論文不僅被領(lǐng)域主席贊不絕口，還已確認(rèn)被人工智能頂級(jí)會(huì)議ICLR 2019收錄。而本期報(bào)道的主人公便是“傳說中學(xué)霸”、該論文的共同第一作者之一——北京大學(xué)地球與空間科學(xué)學(xué)院駱梁宸。

　　作為一名地球與空間科學(xué)學(xué)院的大四學(xué)生，駱梁宸的學(xué)習(xí)生活本可能與NLP（注：自然語言處理）算法沒有太多的關(guān)聯(lián)。然而，他參與開發(fā)的AdaBound算法在訓(xùn)練速度和穩(wěn)定性上都有著優(yōu)于主流算法的表現(xiàn)。

　　AdaBound算法給學(xué)習(xí)率劃出了動(dòng)態(tài)變化的界限，實(shí)現(xiàn)了從Adam到SGD的漸進(jìn)和平滑過渡，讓模型在開始階段有和Adam一樣快的訓(xùn)練速度，后期又能保證和SGD一樣穩(wěn)定的學(xué)習(xí)率。該算法適用于CV、NLP領(lǐng)域，可以用來開發(fā)解決各種流行任務(wù)的深度學(xué)習(xí)模型，同時(shí)，AdaBound算法對(duì)超參數(shù)不是很敏感，省去了大量調(diào)參的時(shí)間。

　　能夠取得這樣的成果，駱梁宸說這離不開他自身的興趣，更離不開北大所提供的平臺(tái)。

　　說到自己的算法，駱梁宸有幾分自豪，也有幾分謙虛?！霸跈C(jī)器學(xué)習(xí)里邊，有一個(gè)應(yīng)用了五六十年的經(jīng)典算法，叫隨機(jī)梯度下降。這種算法從數(shù)學(xué)上講，是一種一階優(yōu)化算法。這種算法在人工智能研究中屬于基礎(chǔ)中的基礎(chǔ)，很多研究者都需要用到，其重要性不言而喻。它雖然被廣泛地使用，但畢竟時(shí)間有些久遠(yuǎn)，存在著很多問題。在最近的4到5年內(nèi)，大家提出了很多新的方法想要對(duì)原有算法進(jìn)行改進(jìn)，目標(biāo)是能讓它更穩(wěn)定，讓我們的模型學(xué)習(xí)得更快、更好。這次我也只是基于比較新的研究成果，在它們的基礎(chǔ)上更進(jìn)一步做了一些推進(jìn)，得到的算法比之前大家公認(rèn)那幾個(gè)目標(biāo)訓(xùn)練得更快、更穩(wěn)定，效果也更好，取得了一點(diǎn)點(diǎn)成效?！?/span>

　　“這個(gè)問題很難，所以真正的進(jìn)步是很小的，但可能因?yàn)榇蠹叶紩?huì)用到它，所以哪怕很小的一點(diǎn)點(diǎn)進(jìn)步，大家也會(huì)感興趣。我們的成果實(shí)際上并沒有媒體上說得那么夸張，在我們?nèi)?nèi)人自己看來，其實(shí)是蠻普通的一個(gè)進(jìn)展?！?/span>

　　在學(xué)業(yè)之外，駱梁宸很喜歡探險(xiǎn)和運(yùn)動(dòng)，他在車協(xié)參加了很多的活動(dòng)。同時(shí)他也是PKUHelper安卓端運(yùn)營(yíng)團(tuán)隊(duì)的第二任負(fù)責(zé)人。PKUHelper是北大學(xué)生自主開發(fā)的手機(jī)軟件，它融合了課表，北大郵箱，成績(jī)查詢，BBS等常用功能，大大方便了同學(xué)們的學(xué)習(xí)生活?；貞浧鹱鯬KUHelper的日子，駱梁宸覺得很充實(shí)，但也有遺憾?！爱?dāng)時(shí)沒想什么，就是覺得自己的工程能力還可以，有安卓開發(fā)的經(jīng)驗(yàn)，還能幫助同學(xué)。其實(shí)我們做得還不夠，有很多東西都很想完善，但因?yàn)槲覀兌际窃谛Ｉ嬲脕黹_發(fā)的時(shí)間實(shí)在太少了。很多想做的東西都沒有辦法，也沒有時(shí)間把它做完，這個(gè)確實(shí)蠻遺憾的。而且現(xiàn)在，低年級(jí)的同學(xué)也越來越不愿意參與工程開發(fā)，大家都想去做算法，其實(shí)我自己也是這樣，所以很難招到新人。這對(duì)于我們來說也是個(gè)蠻大的困難?！?/span>

　　說起自己對(duì)北大的愛，駱梁宸說自己是始于顏值，終于內(nèi)涵。起初，北大的園林與未名湖的波光讓他心馳神往。作為一名非典型的理科生，駱梁宸對(duì)古代經(jīng)典，尤其是四書五經(jīng)有著濃厚的興趣。他在北大不僅能學(xué)習(xí)本專業(yè)的知識(shí)，更有充足的機(jī)會(huì)廣泛涉獵，發(fā)展興趣。在他看來，北大是一個(gè)很包容的地方，不僅是學(xué)習(xí)和科研，只要你能在一個(gè)方面做得足夠好，在這片園子里就會(huì)有立足之地，就會(huì)受到認(rèn)可?！拔沂峭耆珣{興趣直接上手寫工程，而且寫的是直接面向客戶的內(nèi)容。這一點(diǎn)反倒是很多信科同學(xué)不太擅長(zhǎng)的，大家更擅長(zhǎng)的是很前沿很理論的算法，但實(shí)際做出產(chǎn)品又是另一回事。所以這也可能算是另辟蹊徑的一種?！?/span>

　　講到高中的生活，駱梁宸覺得不僅要讀好書，更要對(duì)未來有規(guī)劃。“高中還是盡量多拓展自己的興趣，這樣有助于在大學(xué)解決自己真正想要做什么的問題。大學(xué)基本上都是自主支配的時(shí)間，這種問題越早想好就越有利?！睂?duì)于有志于投身計(jì)算機(jī)領(lǐng)域的學(xué)弟學(xué)妹們，駱梁宸準(zhǔn)備了一句Linus的名言：“Talk is cheap, show me the code.”（注釋：夸夸其談不算什么本事，有本事給我看看代碼）。他很注重實(shí)踐操作對(duì)計(jì)算機(jī)專業(yè)的意義，大量的實(shí)際編程是提升科研和工程能力的法門。而對(duì)于三個(gè)月后即將走入高考考場(chǎng)的學(xué)生們，駱梁宸很希望大家能珍惜最后的時(shí)光。“高中其實(shí)挺好的，雖然有時(shí)候會(huì)累會(huì)苦，但是等到上了大學(xué)再回頭看，能記住的就都是快樂的日子，順其自然過來就好了。”

　　習(xí)慣了自由的駱梁宸還沒有決定好自己的未來。大四的他打算秋天先到國(guó)外做一期助研或者訪問學(xué)者，然后再?zèng)Q定是否讀博士。不過不管走到哪里，駱梁宸都已經(jīng)習(xí)慣了北大給他帶來的一切。

　　“自己已經(jīng)把迷茫留在這里，可以清醒地做一些事情了?！?/span>

　　他如是說。