第178章 居然是他???

投票推薦 加入書籤 小說報錯

  很快查理斯看到論文的第三部分。

  在這個部分,論文展示了在一台本地計算機上,通過代碼構建的虛擬環境,模擬100個計算節點、一萬次疊代周期的分布式深度學習訓練過程。

  在極端異步環境中,每一個計算節點都加入了不同程度的網絡延遲。

  最終卻達成了一個很不錯的結果。

  查理斯盯著最終收斂的曲線圖看了好一會兒。

  在曲線圖上,那條代表誤差率的紅線,並沒有像傳統的異步模型那樣,在模擬到幾千次疊代之後就出現各種誤差甚至於直接崩潰。

  相反,那條紅線呈現出一種極其平穩的向下趨勢。最終的誤差率被控制在了一個合理區間內,整個模型也沒有崩潰。

  很穩定!

  查理斯深吸了一口氣,眼神之中露出興奮。

  「上帝啊……」

  查理斯靠在椅背上,口中喃喃自語。

  作為NIPS大會的資深審稿人兼編輯,他在加州大學聖地亞哥分校也擁有自己的計算機實驗室,他有著很高的專業素養。

  正因為專業,他一眼就看出了這個全新架構背後隱藏的巨大價值。

  這不僅僅是一篇停留在紙面上的理論推導論文。作者還無可辯駁的實驗數據。

  這種數據是不可能造假的,因為太容易被復現了,數據造假的可能性極低!

  如果這個基於動態時間戳權重懲罰的異步框架能夠實現工業級部署…………

  查理斯想到這兒,呼吸都變得粗重了幾分。

  如果真能應用,那目前困擾整個AI學界的通信瓶頸會被打破。

  神經網絡的訓練規模將會擺脫單機算力或者同步鎖的物理限制,迎來一次爆炸式的增長。

  這篇論文意義重大!學術價值,甚至超出了本屆NIPS大會所有已接收論文。

  想到這兒,查理斯興奮的抓起桌上的座機電話,迅速撥通了本屆NIPS大會主程序委員會執行會長、史丹福大學計算機系資深教授的電話號碼。

  電話很快被接了起來。

  「喂!會長先生!我是查理斯。」

  查理斯的聲音有些興奮的喊道。

  電話那頭的執行會長顯然正在處理其他事務,被查理斯這種罕見的失態語氣弄得有些發愣。

  「查理斯?怎麼了?什麼事情讓你如此失態?是谷歌大腦團隊那邊又提交了什麼關於大規模無監督學習的新成果嗎?」

  會長好奇的問道。

  「不是谷歌!也不是微軟或者多倫多大學的團隊!是一個完全陌生的個人投稿者,名字叫Yang Zhao!」

  查理斯拿著聽筒,大聲說道:「他解決了一直困擾我們的異步SGD框架梯度陳舊問題!他引入了一種極其先進的模型,基於延遲時間差賦予動態權重懲罰。

  在完全異步的環境下實現了模型的平穩收斂!而且在附件里還給出了實驗流程和實驗數據!」

  「你確定推導過程和數據沒有造假?」

  聽到梯度陳舊問題被解決,執行會長的語氣也立刻變得極其嚴肅。這關乎到整個分布式計算領域未來的發展方向。

  「我花了一個小時,逐行粗略看了一遍他的核心算法和數學推導公式。邏輯上嚴絲合縫,沒有任何明顯的漏洞,至於數據,物我個人認為造假概率極低。

  因為復現難度很低。」

  查理斯快速回答,「我已經把完整論文發到你的工作郵箱了,你快點親自看一眼!」

  「好,我馬上下載查看。」

  執行會長直接說到。

  「你立刻在後台把這篇論文的優先級調到最高,加入A級優先評審通道。我會親自聯繫麻省理工和伯克利的三位最頂尖的分布式計算專家進行緊急盲審!!」

  「明白,我立刻去辦。」

  掛斷電話,查理斯重新坐回電腦前。

  他在NIPS的內部審稿系統中,將這篇論文的狀態更改為最高級別的加急評審,並將其分發給了會長指定的幾位外部獨立審稿人。

  做完這一切,查理斯看著屏幕上依然打開著的PDF文件,目光落在標題下方的作者署名和單位位置。


  「Yang Zhao……燕京林業大學?燕京大學?這傢伙到底是從哪冒出來的怪物?」

  查理斯喃喃自語,眼神之中滿是好奇,他在計算機科學領域的頂級學者圈子裡混跡了十幾年,各大名校的華人學者他也認識不少,但對這個名字和這個單位毫無印象。

  遲疑了一下,查理斯打開瀏覽器,進入了谷歌學術的搜索界面。

  他在搜索框中輸入了「Yang Zhao」,並添加了「燕京林業大學」作為機構限定詞進行精準檢索。

  頁面跳轉,檢索結果彈出。

  排在第一位的,是一篇發表在IEEE TIP(電氣電子工程師學會圖像處理彙刊)上的關於圖像去噪的論文。

  「圖像處理領域的頂刊?看來確實是計算機方向的學者。」查理斯微微點頭,這算是一個合理的背景履歷。

  但當他的視線向下移動,看到檢索結果第二條的那篇剛剛被系統收錄索引的論文時。

  查理斯握著滑鼠的手僵住了。

  論文標題:論素數間隙的有界性。

  發表期刊:數學年刊。

  作者:Yang Zhao。

  查理斯雖然是搞計算機深度學習的,但他同樣也是一名科研工作者,他非常清楚《數學年刊》在科學界的地位,更清楚素數間隙這四個字代表著什麼。

  就在前兩天,普林斯頓大學的官網和各大科學媒體還在鋪天蓋地地報導一位年輕的中國學者證明了孿生素數猜想的新聞。

  這個新聞他還是多少有些耳聞的。

  查理斯的眼神之中露出極度的震撼,瞳孔微微收縮。

  「上帝……這個解決了異步通信算法的人,竟然就是前不久剛剛證明了孿生素數猜想的那個數學家?!」

  查理斯盯著屏幕,難以置信地喃喃自語。

  「這篇TIP也是他發的。一個月前發圖像處理頂刊,前幾天發數學界最高期刊解決百年難題,現在又向NIPS投了一篇足以改變底層架構的計算機論文?」

  這種極度的跨學科能力和恐怖的產出速度,完全顛覆了查理斯對人類智力極限的認知。

章節目錄