第497章 算力榨乾
大家開始熱烈地討論起來。會議室里的氣氛瞬間被點燃。
有人討論分成比例，有人討論內容審核機制，有人討論怎麼防範洗稿和抄襲。
夏冬看著這一切，心裡十分滿意。
這就是他想要的團隊，一群聰明人在一起碰撞，不需要他事事親力親為。
「快看號的提議，全票通過。」
夏冬壓了壓手，示意大家安靜，「晚晴，散會後你負責拉一個項目組，和一鳴對接具體的運營和推廣方案。」
蘇晚晴認真地點頭記錄在筆記本上。
「接下來，還有誰有議題？」夏冬靠在椅子上，目光掃過眾人。
陳默舉起了手。
「夏冬，接下來這個議題，本來我打算私下找你說的。」
「但既然今天是務虛會，我覺得有必要擺到桌面上，讓大家都聽聽。」陳默推開面前的茶杯。
大家都安靜下來，能讓技術大拿陳默如此嚴肅的事情，絕對不是小事。
「我們的伺服器，快扛不住了。」陳默說出了第一句話。
吳澤明愣了一下：「扛不住？上個月不是剛批了五千萬的預算採購新伺服器嗎？」
陳默苦笑了一聲，伸手扒拉了一下本來就亂的頭髮：「五千萬？五千萬現在連打水漂都聽不到響。」
「核心問題不在資料庫讀寫的高並發，而在算法計算。」
他站起身，走到剛才一鳴用過的白板前，擦掉上面的字，畫了一個簡單的架構圖。
「大家只看到了快看網在國內的八千萬日活。」陳默用記號筆重重地點在白板上，「但你們別忘了，盛夏科技的底層推薦算法API，還同時提供給大洋彼岸的兩家公司。」
「一家是我們自己的馬甲『字節跳跳』，另一家，是Facebook。」陳默轉過頭看著大家。
會議室里的空氣似乎凝滯了一下。
會議室里的大家，都知道這個商業機密。
「字節跳跳在北美的日活已經突破1.9億。而Facebook，他們把我們的算法接入了他們的核心動態消息流，他們現在的全球月活已經逼近1.4億。」
「這意味著什麼？意味著每天有海量的數據，源源不斷地匯入我們的伺服器。」
「每一條用戶點讚、每一個停留時長、每一次頁面刷新，都需要輸入到我們的神經網絡模型里進行運算，然後再把推薦結果實時返回去。」
陳默看著夏冬，眼神里透著一絲無奈：「夏冬，我們的算法確實牛逼，參數量大，精準度高。但越牛逼的算法，需要的算力就越恐怖。」
吳澤明作為後台專家，立刻明白了陳默的意思：「你是說，我們的CPU算力見頂了？」
「不是見頂，是被榨乾了。」陳默嘆了口氣，「現在的算力根本跟不上數據膨脹的速度。」
一鳴停下了吃零食的動作，皺眉問道：「如果加機器呢？」
「加機器？」陳默搖了搖頭，「字節跳跳、Facebook的體量還在狂飆。」
「如果要靠堆傳統CPU伺服器來滿足他們未來的算力需求，我們就算把整個中關村大廈18層到1層全租下來改成機房都不夠用。」
「更別提每個月的天價電費和空調散熱費了。」
吳澤明補充道：「而且機房的物理空間和電力負載是有極限的。光靠橫向擴展，不是長久之計。」
會議室陷入了死一般的沉寂。
這是一個純粹的物理定律和硬體架構帶來的瓶頸。
軟體算法再精妙，也無法違背硬體的物理極限。
所有人都看向夏冬。
在這個公司里，每當遇到技術方面無解的死局，夏冬總是能拿出打破常規的方案。
其實夏冬早就預料到了這一天，伺服器算力見頂是遲早的事。
他老早就找豆包，惡補了人工智慧的發展史。
深度學習和神經網絡之所以在2010年之後才開始大爆發，並不是因為算法突然取得了什麼逆天的理論突破。
純粹是因為算力終於跟上了。
在豆包提供的未來時間線里，拯救人工智慧算力危機的，是英偉達的GPU。也就是大家俗稱的顯卡。
GPU這玩意兒，天生就是用來做大規模並行計算的。
再後來，谷歌為了搞定自家的算法和推薦系統，乾脆自己下場研發了TPU，一種專門為AI定製的專用晶片。
夏冬的手指在桌面上輕輕敲擊著，發出有節奏的噠噠聲。
「陳默，澤明，你們有沒有想過，」夏冬終於開口了，目光掃過兩位技術大拿，「為什麼我們堆了那麼多頂配的CPU，算力依然捉襟見肘？我們的算法，到底在讓這些CPU幹什麼活？」
陳默皺著眉頭想了想：「主要就是神經網絡的層級計算，裡面全是大規模的矩陣乘法。」
「對，問題就出在這裡。」
夏冬停止敲擊桌面，「CPU的架構設計初衷是什麼？是處理複雜的控制邏輯，它裡面有大量的分支預測、指令調度單元。」
「打個比方，CPU就像是一個精通微積分的大學老教授。你讓他解多複雜的數學題他都會。」
為了讓非純技術的蘇晚晴也能聽懂，夏冬頓了頓，攤開雙手繼續說道：「但是，我們推薦算法需要的，是極其海量、極其枯燥的簡單矩陣乘法。」
「這等於你雇了一萬個大學老教授，每天讓他們坐在辦公室里算一加一等於幾。」
陳默和吳澤明愣了一下。
「他們能算，」夏冬一針見血地指出，「但是效率極低，而且成本高得離譜。大炮打蚊子，從根源上就錯了。」
兩位頂尖的技術大拿對視了一眼，腦子裡仿佛劈過一道閃電。
陳默喃喃自語：「所以……通用的CPU，從硬體物理架構上就不適合跑我們的算法？」
「沒錯。」夏冬順勢拋出一個引導性的問題，「既然一個精通微積分的老教授算得慢，那我們找一萬個只會算乘法的小學生來並行計算呢？」
「我們需要的是高並發、低邏輯複雜度、海量的浮點運算單元……」
吳澤明推了推眼鏡，眉頭微皺，大腦在瘋狂檢索現有的硬體架構：「夏冬，你說的這種硬體特徵，聽起來怎麼那麼像電腦里的顯卡？」
「確切地說，是GPU。」夏冬打了個響指，「澤明抓住了盲點。」
夏冬表情淡定，內心其實正在快速梳理之前用豆包查閱的資料。
早在2007年，英偉達就推出了CUDA架構，讓GPU不僅僅能打遊戲渲染圖像，還能進行通用計算。
現在這個時間節點，多倫多大學的Hinton團隊、史丹福大學的吳恩達，其實已經開始嘗試用GPU加速神經網絡訓練了。
效率足足比CPU高出了幾十倍。
到了2011年，吳恩達更是用12塊GPU，生生跑出了相當於2000個CPU的深度學習算力。
這就是降維打擊。
有人討論分成比例，有人討論內容審核機制，有人討論怎麼防範洗稿和抄襲。
夏冬看著這一切，心裡十分滿意。
這就是他想要的團隊，一群聰明人在一起碰撞，不需要他事事親力親為。
「快看號的提議，全票通過。」
夏冬壓了壓手，示意大家安靜，「晚晴，散會後你負責拉一個項目組，和一鳴對接具體的運營和推廣方案。」
蘇晚晴認真地點頭記錄在筆記本上。
「接下來，還有誰有議題？」夏冬靠在椅子上，目光掃過眾人。
陳默舉起了手。
「夏冬，接下來這個議題，本來我打算私下找你說的。」
「但既然今天是務虛會，我覺得有必要擺到桌面上，讓大家都聽聽。」陳默推開面前的茶杯。
大家都安靜下來，能讓技術大拿陳默如此嚴肅的事情，絕對不是小事。
「我們的伺服器，快扛不住了。」陳默說出了第一句話。
吳澤明愣了一下：「扛不住？上個月不是剛批了五千萬的預算採購新伺服器嗎？」
陳默苦笑了一聲，伸手扒拉了一下本來就亂的頭髮：「五千萬？五千萬現在連打水漂都聽不到響。」
「核心問題不在資料庫讀寫的高並發，而在算法計算。」
他站起身，走到剛才一鳴用過的白板前，擦掉上面的字，畫了一個簡單的架構圖。
「大家只看到了快看網在國內的八千萬日活。」陳默用記號筆重重地點在白板上，「但你們別忘了，盛夏科技的底層推薦算法API，還同時提供給大洋彼岸的兩家公司。」
「一家是我們自己的馬甲『字節跳跳』，另一家，是Facebook。」陳默轉過頭看著大家。
會議室里的空氣似乎凝滯了一下。
會議室里的大家，都知道這個商業機密。
「字節跳跳在北美的日活已經突破1.9億。而Facebook，他們把我們的算法接入了他們的核心動態消息流，他們現在的全球月活已經逼近1.4億。」
「這意味著什麼？意味著每天有海量的數據，源源不斷地匯入我們的伺服器。」
「每一條用戶點讚、每一個停留時長、每一次頁面刷新，都需要輸入到我們的神經網絡模型里進行運算，然後再把推薦結果實時返回去。」
陳默看著夏冬，眼神里透著一絲無奈：「夏冬，我們的算法確實牛逼，參數量大，精準度高。但越牛逼的算法，需要的算力就越恐怖。」
吳澤明作為後台專家，立刻明白了陳默的意思：「你是說，我們的CPU算力見頂了？」
「不是見頂，是被榨乾了。」陳默嘆了口氣，「現在的算力根本跟不上數據膨脹的速度。」
一鳴停下了吃零食的動作，皺眉問道：「如果加機器呢？」
「加機器？」陳默搖了搖頭，「字節跳跳、Facebook的體量還在狂飆。」
「如果要靠堆傳統CPU伺服器來滿足他們未來的算力需求，我們就算把整個中關村大廈18層到1層全租下來改成機房都不夠用。」
「更別提每個月的天價電費和空調散熱費了。」
吳澤明補充道：「而且機房的物理空間和電力負載是有極限的。光靠橫向擴展，不是長久之計。」
會議室陷入了死一般的沉寂。
這是一個純粹的物理定律和硬體架構帶來的瓶頸。
軟體算法再精妙，也無法違背硬體的物理極限。
所有人都看向夏冬。
在這個公司里，每當遇到技術方面無解的死局，夏冬總是能拿出打破常規的方案。
其實夏冬早就預料到了這一天，伺服器算力見頂是遲早的事。
他老早就找豆包，惡補了人工智慧的發展史。
深度學習和神經網絡之所以在2010年之後才開始大爆發，並不是因為算法突然取得了什麼逆天的理論突破。
純粹是因為算力終於跟上了。
在豆包提供的未來時間線里，拯救人工智慧算力危機的，是英偉達的GPU。也就是大家俗稱的顯卡。
GPU這玩意兒，天生就是用來做大規模並行計算的。
再後來，谷歌為了搞定自家的算法和推薦系統，乾脆自己下場研發了TPU，一種專門為AI定製的專用晶片。
夏冬的手指在桌面上輕輕敲擊著，發出有節奏的噠噠聲。
「陳默，澤明，你們有沒有想過，」夏冬終於開口了，目光掃過兩位技術大拿，「為什麼我們堆了那麼多頂配的CPU，算力依然捉襟見肘？我們的算法，到底在讓這些CPU幹什麼活？」
陳默皺著眉頭想了想：「主要就是神經網絡的層級計算，裡面全是大規模的矩陣乘法。」
「對，問題就出在這裡。」
夏冬停止敲擊桌面，「CPU的架構設計初衷是什麼？是處理複雜的控制邏輯，它裡面有大量的分支預測、指令調度單元。」
「打個比方，CPU就像是一個精通微積分的大學老教授。你讓他解多複雜的數學題他都會。」
為了讓非純技術的蘇晚晴也能聽懂，夏冬頓了頓，攤開雙手繼續說道：「但是，我們推薦算法需要的，是極其海量、極其枯燥的簡單矩陣乘法。」
「這等於你雇了一萬個大學老教授，每天讓他們坐在辦公室里算一加一等於幾。」
陳默和吳澤明愣了一下。
「他們能算，」夏冬一針見血地指出，「但是效率極低，而且成本高得離譜。大炮打蚊子，從根源上就錯了。」
兩位頂尖的技術大拿對視了一眼，腦子裡仿佛劈過一道閃電。
陳默喃喃自語：「所以……通用的CPU，從硬體物理架構上就不適合跑我們的算法？」
「沒錯。」夏冬順勢拋出一個引導性的問題，「既然一個精通微積分的老教授算得慢，那我們找一萬個只會算乘法的小學生來並行計算呢？」
「我們需要的是高並發、低邏輯複雜度、海量的浮點運算單元……」
吳澤明推了推眼鏡，眉頭微皺，大腦在瘋狂檢索現有的硬體架構：「夏冬，你說的這種硬體特徵，聽起來怎麼那麼像電腦里的顯卡？」
「確切地說，是GPU。」夏冬打了個響指，「澤明抓住了盲點。」
夏冬表情淡定，內心其實正在快速梳理之前用豆包查閱的資料。
早在2007年，英偉達就推出了CUDA架構，讓GPU不僅僅能打遊戲渲染圖像，還能進行通用計算。
現在這個時間節點，多倫多大學的Hinton團隊、史丹福大學的吳恩達，其實已經開始嘗試用GPU加速神經網絡訓練了。
效率足足比CPU高出了幾十倍。
到了2011年，吳恩達更是用12塊GPU，生生跑出了相當於2000個CPU的深度學習算力。
這就是降維打擊。