第396章 我這有幾千張GPU，你要嗎？
八月的西安，是能把人烤出油來的那種熱。
不像錦城那種陰濕的蒸籠感，西安的毒日頭是直接劈下來的，混著秦川平原上吹來的乾熱風，把整座城市炙烤得像一塊巨大的磚窯。
任少卿拎著一個鼓囊囊的黑色雙肩包，從西安交大東門的公交站一路走進校園，襯衫後背濕透了大半，貼在脊梁骨上，黏糊糊的，難受得很。
他低著頭，盯著腳下的花崗岩路面，腦子裡反覆過今天宣講的那三十二頁PPT。
第七頁的實驗數據。
第七頁，是整個報告的命門。
任少卿閉上眼睛，那張對比折線圖像刻進腦子裡一樣揮不去。
他基於AlexNet架構改進的卷積神經網絡模型，用東拼西湊的四卡GPU伺服器跑出來的結果，在PASCAL VOC 2012數據集上，目標檢測精度比學界主流的DPM模型高出了將近十一個百分點。
十一個百分點。
在他看來，這不是一個數字。
這是一次典範轉移。
他二十七歲，中科大和微軟亞洲研究院聯合培養的博士生。
去年從合肥到了一趟北京，跟著導師的組看完了Hinton組在ILSVRC比賽上用AlexNet把傳統方法打得落花流水的完整論文。
他當時就坐在微軟大廈十二層的組會室里，咖啡都顧不上喝，盯著屏幕上那個把所有傳統方法甩開將近十個百分點的成績，心裡某個地方「咔噠」一聲，被什麼徹底撬開了。
那種感覺，他後來想了很久——大概類似於在一片烏壓壓的普通人里，突然認出了另一個同類。
然後他就扎進去了。
整整八個月，幾乎把所有能騰出來的時間全部押進去。
他在自己的研究方向里開了條岔路，拐進了當時連導師都半信半疑的深度學習叢林，靠著微軟亞研院借給他的一小塊GPU算力，把那套模型一點一點搭起來，調參，再調參，處理過擬合，再處理，換框架，換數據增強方式……
然後跑出了那個讓他失眠了整整一夜的數字。
但他沒法訓練更大的模型。
算力不夠。
微軟亞研院給他劃的那塊算力有上限，還要跟組裡其他項目排隊。
他算過了，如果要把網絡規模再擴大一倍、數據集再豐富三倍，按現在能用的算力，連續不間斷地跑，需要將近四十七天。
他等不起。
不是技術上等不起，是賽道上等不起。
他清楚地感覺到，全球跑在這個方向上的人越來越多。
去年AlexNet一出，全世界頂級實驗室就像被點著了一樣，一股腦兒往這邊涌。
斯坦福、CMU、DeepMind……這些機構手裡握著的算力，是他這種人做夢都摸不到的規模。
他必須跑快一點。
所以他來了西安。
「2013年全國計算機視覺與模式識別暑期研討會」，主辦方是西安交大和西工大，協辦方拉了一長串，裡頭有兩個國家級的超算中心。
這場會議在學界的分量不算最頂尖，但務實。
任少卿要的也不是頂尖，他要的是那兩個超算中心的掛名負責人，以及他提前查過的、掛在西工大計算機視覺重點實驗室名下的那一批國防科工委撥款的H系伺服器集群。
他的如意算盤是：論文宣講好，跟西部這邊的大拿們混個臉熟，飯桌上開口「化緣」，借一批算力用三個月。
道理上沒問題。
學術圈就是這麼運轉的。
任少卿走進報告廳大樓，撲面而來一股涼氣，把他半干不濕的襯衫一下子激透了，打了個哆嗦，稍微舒坦了點，抬頭看了眼指示牌。
計算機視覺分會場，三樓報告廳B。
宣講安排在下午兩點，是下午場的第二個報告。
現在是上午十點四十分。
時間夠。
……
上午的大會主題報告，任少卿坐在後排，把論文草稿掏出來又過了一遍。
台上是一位西工大的老先生，做人臉識別做了二十多年，滿頭白髮，聲音洪亮，PPT是黑底綠字的經典配色，一頁一頁往下翻，每一頁都有至少三段話。
老先生講的是基於可形變模型的人臉特徵點對齊，理論體系紮實、推導完備，是這個領域裡毫無疑問的泰斗級工作。
任少卿認認真真地聽，認認真真地鼓掌。
然後繼續低頭看自己的論文。
……
下午兩點整，任少卿走上講台。
報告廳里坐了大概七八十人，前排是幾位頭髮花白的老教授，中間是一群年齡不一的副教授和研究員，後排是一大片跟他差不多大乃至更年輕的博士生和碩士生。
任少卿把U盤插進去，屏幕上亮出報告封面：
《基於改進卷積神經網絡的目標檢測：突破傳統特徵工程的範式》
他掃了一眼台下，做了個深呼吸。
「各位老師、各位同學，下午好。我叫任少卿，來自中科大與微軟亞洲研究院的聯合培養項目。今天我要跟大家分享的工作，核心出發點是一個我認為非常重要的問題——傳統的手工特徵，在目標檢測任務上，是不是已經遇到了天花板？」
後排有幾個博士生坐直了一點。
前排的老先生們，表情沒什麼變化。
任少卿繼續往下走。
他講架構，講他對AlexNet的改進，講數據增強，講在PASCAL VOC上跑出來的結果。
講得快，但邏輯清晰，每一步推進都有據可查。
講到第七頁，他把那張對比折線圖放到了最大。
「……在相同的測試集上，我們的方法在mAP指標上比當前最優的DPM模型高出了11.3個百分點。這個差距，我認為不是調參層面的改進，而是底層特徵提取範式的本質性躍遷。」
報告廳里安靜了大概兩秒鐘。
然後，前排左邊第二個位置的老先生開口了。
任少卿認識這位老先生。
西安交大計算機視覺領域的老前輩，做了三十年圖像處理，手底下出來的博士生如今遍布國內各大高校和研究院，標準的一代宗師。
「小伙子，」
老先生語氣並不嚴厲，甚至帶著點慈祥，
「你這個結果，訓練的時候用了多少GPU？」
「四張NVIDIA GTX 780，訓練了大約十二天。」
老先生點了點頭，慢條斯理地說：
「我想問你，這十二天、四張顯卡跑出來的東西，在工程落地上怎麼解決？你這個模型，推理一張圖片需要多長時間？」
「目前大概是0.5到0.8秒每幀——」
「那實時檢測呢？」
老先生溫和地打斷，
「工業攝像頭要求的是25幀以上，你離這個目標還差多遠？」
任少卿頓了一下。
——他當然知道差多遠。他只是同樣知道，五年後這個問題會變成什麼樣的答案。
「目前確實還不滿足實時要求，但是——」
「還有，」
旁邊另一位中年教授接過話頭，語氣更直接，
「你說比DPM高11個點，但你用的訓練數據量是DPM的幾倍？GPU算力消耗是DPM的幾倍？這個對比，公平嗎？」
「數據量大約是……兩倍，」
任少卿深吸一口氣，
「算力消耗相對更高，這點我承認。不過我想指出的是，隨著GPU硬體成本持續下降，算力約束在未來三到五年內會快速緩解，到那個時候——」
「到那個時候再說到那個時候的事。」
中年教授語氣不咸不淡，
「我們討論的是2013年可落地的工作。」
後排有幾個博士生沒忍住，湊在一起交換了幾句什麼。
任少卿站在台上，握著雷射筆的手指不動聲色地收緊了一下。
他在組會上被導師罵過，被審稿人拒過，被同組的師兄用紅筆密密麻麻划過論文草稿。
但今天這種感覺，不一樣。
不是羞辱，老先生顯然沒有這個意思。
是隔閡。
是兩個人分別站在兩座山頂，隔著一道深不見底的溝壑喊話。
彼此都能聽見聲音，卻沒有一個人能確認，對方說的是不是同一件事。
老先生看到的是2013年的現實：算力稀缺，工程不成熟，理論可解釋性不足。
任少卿看到的，是2016年，是2018年，是2020年。那是一條已經確定了走向的單行道。
所有在入口踟躕不前的人，都會被後來的歷史證明，站在了錯誤的一側。
但他沒法證明這件事。
他沒有辦法站在2013年，把未來的那些數字遞給眼前這些前輩看。
「感謝各位老師的寶貴意見，」
任少卿調整了一下神情，扯出個平靜的笑，
「工程落地和理論解釋性的問題，我會認真思考，這部分工作確實還有很大的空間……」
剩下幾頁PPT快速過完，宣講在稀稀落落的掌聲里結束了。
……
報告廳外的走廊里，任少卿靠著一根石柱，把雙肩包從肩膀上拽下來，隨手扔在腳邊，仰起頭，盯著頭頂白熾燈管里那道平靜的光。
窗外，八月的夕陽把整個交大校園熏成了一片焦橙色，梧桐樹的葉子在熱風裡懶洋洋地翻著肚皮。
他把今天下午的劇本在腦子裡重放了一遍。
宣講失敗，這個結論不用再論證了。
那兩位超算中心的掛名負責人，他宣講一結束就特地湊過去，名片還沒來得及換，對方就禮貌性地微笑著接了個電話走開了。
任少卿揉了揉太陽穴。
這趟西安，白來了。
從北京過來的機票和這兩天的住宿，是他自掏腰包的。
導師給的差旅報銷額度他留著出去參加頂會用，捨不得花在這種研討會上。
想想都虧。
他彎腰把包撿起來，準備去找學生餐廳對付一頓。
「同學，等一下。」
任少卿回過頭。
一個男生從他左邊三米外走過來，大概十七八歲的樣子，一頭染得張揚的黃毛，大褲衩加白T恤，脖子上隨便掛著個不知道從哪順來的臨時旁聽證，腳上踩著一雙半舊的運動鞋，要多隨意有多隨意。
這棟樓里全是西裝和polo衫。
這個人跟所有人都格格不入。
但他走路的姿勢，帶著一股說不清楚的篤定。
他在任少卿面前停下來，抬起頭，打量了他兩秒，開口：
「你就是剛才做卷積神經網絡目標檢測報告的那位吧？」
任少卿微微一怔：
「是。」
那個黃毛少年把手插進褲兜，嘴角往上扯了一下。
「算力不夠用？」
不是疑問句。
陳述句。
任少卿盯著他看了整整三秒，沒有說話。
「我在錦城，」
黃毛少年語氣輕描淡寫，像在聊今晚吃什麼，
「雅安大渡河邊上有個數據中心，現在裝機規模大概是幾千張GPU，目前主要跑推薦算法和挖礦。不過，我剛拋了一筆比特幣，下個月會有兩千張英偉達最新的頂級計算卡進場，專門留給深度學習。」
他頓了頓。
「你有沒有興趣，去我公司上班？」
「算力，管夠。」
PS：【糊塗舊島】大佬送出的【禮物之王】加更三章第一章
不像錦城那種陰濕的蒸籠感，西安的毒日頭是直接劈下來的，混著秦川平原上吹來的乾熱風，把整座城市炙烤得像一塊巨大的磚窯。
任少卿拎著一個鼓囊囊的黑色雙肩包，從西安交大東門的公交站一路走進校園，襯衫後背濕透了大半，貼在脊梁骨上，黏糊糊的，難受得很。
他低著頭，盯著腳下的花崗岩路面，腦子裡反覆過今天宣講的那三十二頁PPT。
第七頁的實驗數據。
第七頁，是整個報告的命門。
任少卿閉上眼睛，那張對比折線圖像刻進腦子裡一樣揮不去。
他基於AlexNet架構改進的卷積神經網絡模型，用東拼西湊的四卡GPU伺服器跑出來的結果，在PASCAL VOC 2012數據集上，目標檢測精度比學界主流的DPM模型高出了將近十一個百分點。
十一個百分點。
在他看來，這不是一個數字。
這是一次典範轉移。
他二十七歲，中科大和微軟亞洲研究院聯合培養的博士生。
去年從合肥到了一趟北京，跟著導師的組看完了Hinton組在ILSVRC比賽上用AlexNet把傳統方法打得落花流水的完整論文。
他當時就坐在微軟大廈十二層的組會室里，咖啡都顧不上喝，盯著屏幕上那個把所有傳統方法甩開將近十個百分點的成績，心裡某個地方「咔噠」一聲，被什麼徹底撬開了。
那種感覺，他後來想了很久——大概類似於在一片烏壓壓的普通人里，突然認出了另一個同類。
然後他就扎進去了。
整整八個月，幾乎把所有能騰出來的時間全部押進去。
他在自己的研究方向里開了條岔路，拐進了當時連導師都半信半疑的深度學習叢林，靠著微軟亞研院借給他的一小塊GPU算力，把那套模型一點一點搭起來，調參，再調參，處理過擬合，再處理，換框架，換數據增強方式……
然後跑出了那個讓他失眠了整整一夜的數字。
但他沒法訓練更大的模型。
算力不夠。
微軟亞研院給他劃的那塊算力有上限，還要跟組裡其他項目排隊。
他算過了，如果要把網絡規模再擴大一倍、數據集再豐富三倍，按現在能用的算力，連續不間斷地跑，需要將近四十七天。
他等不起。
不是技術上等不起，是賽道上等不起。
他清楚地感覺到，全球跑在這個方向上的人越來越多。
去年AlexNet一出，全世界頂級實驗室就像被點著了一樣，一股腦兒往這邊涌。
斯坦福、CMU、DeepMind……這些機構手裡握著的算力，是他這種人做夢都摸不到的規模。
他必須跑快一點。
所以他來了西安。
「2013年全國計算機視覺與模式識別暑期研討會」，主辦方是西安交大和西工大，協辦方拉了一長串，裡頭有兩個國家級的超算中心。
這場會議在學界的分量不算最頂尖，但務實。
任少卿要的也不是頂尖，他要的是那兩個超算中心的掛名負責人，以及他提前查過的、掛在西工大計算機視覺重點實驗室名下的那一批國防科工委撥款的H系伺服器集群。
他的如意算盤是：論文宣講好，跟西部這邊的大拿們混個臉熟，飯桌上開口「化緣」，借一批算力用三個月。
道理上沒問題。
學術圈就是這麼運轉的。
任少卿走進報告廳大樓，撲面而來一股涼氣，把他半干不濕的襯衫一下子激透了，打了個哆嗦，稍微舒坦了點，抬頭看了眼指示牌。
計算機視覺分會場，三樓報告廳B。
宣講安排在下午兩點，是下午場的第二個報告。
現在是上午十點四十分。
時間夠。
……
上午的大會主題報告，任少卿坐在後排，把論文草稿掏出來又過了一遍。
台上是一位西工大的老先生，做人臉識別做了二十多年，滿頭白髮，聲音洪亮，PPT是黑底綠字的經典配色，一頁一頁往下翻，每一頁都有至少三段話。
老先生講的是基於可形變模型的人臉特徵點對齊，理論體系紮實、推導完備，是這個領域裡毫無疑問的泰斗級工作。
任少卿認認真真地聽，認認真真地鼓掌。
然後繼續低頭看自己的論文。
……
下午兩點整，任少卿走上講台。
報告廳里坐了大概七八十人，前排是幾位頭髮花白的老教授，中間是一群年齡不一的副教授和研究員，後排是一大片跟他差不多大乃至更年輕的博士生和碩士生。
任少卿把U盤插進去，屏幕上亮出報告封面：
《基於改進卷積神經網絡的目標檢測：突破傳統特徵工程的範式》
他掃了一眼台下，做了個深呼吸。
「各位老師、各位同學，下午好。我叫任少卿，來自中科大與微軟亞洲研究院的聯合培養項目。今天我要跟大家分享的工作，核心出發點是一個我認為非常重要的問題——傳統的手工特徵，在目標檢測任務上，是不是已經遇到了天花板？」
後排有幾個博士生坐直了一點。
前排的老先生們，表情沒什麼變化。
任少卿繼續往下走。
他講架構，講他對AlexNet的改進，講數據增強，講在PASCAL VOC上跑出來的結果。
講得快，但邏輯清晰，每一步推進都有據可查。
講到第七頁，他把那張對比折線圖放到了最大。
「……在相同的測試集上，我們的方法在mAP指標上比當前最優的DPM模型高出了11.3個百分點。這個差距，我認為不是調參層面的改進，而是底層特徵提取範式的本質性躍遷。」
報告廳里安靜了大概兩秒鐘。
然後，前排左邊第二個位置的老先生開口了。
任少卿認識這位老先生。
西安交大計算機視覺領域的老前輩，做了三十年圖像處理，手底下出來的博士生如今遍布國內各大高校和研究院，標準的一代宗師。
「小伙子，」
老先生語氣並不嚴厲，甚至帶著點慈祥，
「你這個結果，訓練的時候用了多少GPU？」
「四張NVIDIA GTX 780，訓練了大約十二天。」
老先生點了點頭，慢條斯理地說：
「我想問你，這十二天、四張顯卡跑出來的東西，在工程落地上怎麼解決？你這個模型，推理一張圖片需要多長時間？」
「目前大概是0.5到0.8秒每幀——」
「那實時檢測呢？」
老先生溫和地打斷，
「工業攝像頭要求的是25幀以上，你離這個目標還差多遠？」
任少卿頓了一下。
——他當然知道差多遠。他只是同樣知道，五年後這個問題會變成什麼樣的答案。
「目前確實還不滿足實時要求，但是——」
「還有，」
旁邊另一位中年教授接過話頭，語氣更直接，
「你說比DPM高11個點，但你用的訓練數據量是DPM的幾倍？GPU算力消耗是DPM的幾倍？這個對比，公平嗎？」
「數據量大約是……兩倍，」
任少卿深吸一口氣，
「算力消耗相對更高，這點我承認。不過我想指出的是，隨著GPU硬體成本持續下降，算力約束在未來三到五年內會快速緩解，到那個時候——」
「到那個時候再說到那個時候的事。」
中年教授語氣不咸不淡，
「我們討論的是2013年可落地的工作。」
後排有幾個博士生沒忍住，湊在一起交換了幾句什麼。
任少卿站在台上，握著雷射筆的手指不動聲色地收緊了一下。
他在組會上被導師罵過，被審稿人拒過，被同組的師兄用紅筆密密麻麻划過論文草稿。
但今天這種感覺，不一樣。
不是羞辱，老先生顯然沒有這個意思。
是隔閡。
是兩個人分別站在兩座山頂，隔著一道深不見底的溝壑喊話。
彼此都能聽見聲音，卻沒有一個人能確認，對方說的是不是同一件事。
老先生看到的是2013年的現實：算力稀缺，工程不成熟，理論可解釋性不足。
任少卿看到的，是2016年，是2018年，是2020年。那是一條已經確定了走向的單行道。
所有在入口踟躕不前的人，都會被後來的歷史證明，站在了錯誤的一側。
但他沒法證明這件事。
他沒有辦法站在2013年，把未來的那些數字遞給眼前這些前輩看。
「感謝各位老師的寶貴意見，」
任少卿調整了一下神情，扯出個平靜的笑，
「工程落地和理論解釋性的問題，我會認真思考，這部分工作確實還有很大的空間……」
剩下幾頁PPT快速過完，宣講在稀稀落落的掌聲里結束了。
……
報告廳外的走廊里，任少卿靠著一根石柱，把雙肩包從肩膀上拽下來，隨手扔在腳邊，仰起頭，盯著頭頂白熾燈管里那道平靜的光。
窗外，八月的夕陽把整個交大校園熏成了一片焦橙色，梧桐樹的葉子在熱風裡懶洋洋地翻著肚皮。
他把今天下午的劇本在腦子裡重放了一遍。
宣講失敗，這個結論不用再論證了。
那兩位超算中心的掛名負責人，他宣講一結束就特地湊過去，名片還沒來得及換，對方就禮貌性地微笑著接了個電話走開了。
任少卿揉了揉太陽穴。
這趟西安，白來了。
從北京過來的機票和這兩天的住宿，是他自掏腰包的。
導師給的差旅報銷額度他留著出去參加頂會用，捨不得花在這種研討會上。
想想都虧。
他彎腰把包撿起來，準備去找學生餐廳對付一頓。
「同學，等一下。」
任少卿回過頭。
一個男生從他左邊三米外走過來，大概十七八歲的樣子，一頭染得張揚的黃毛，大褲衩加白T恤，脖子上隨便掛著個不知道從哪順來的臨時旁聽證，腳上踩著一雙半舊的運動鞋，要多隨意有多隨意。
這棟樓里全是西裝和polo衫。
這個人跟所有人都格格不入。
但他走路的姿勢，帶著一股說不清楚的篤定。
他在任少卿面前停下來，抬起頭，打量了他兩秒，開口：
「你就是剛才做卷積神經網絡目標檢測報告的那位吧？」
任少卿微微一怔：
「是。」
那個黃毛少年把手插進褲兜，嘴角往上扯了一下。
「算力不夠用？」
不是疑問句。
陳述句。
任少卿盯著他看了整整三秒，沒有說話。
「我在錦城，」
黃毛少年語氣輕描淡寫，像在聊今晚吃什麼，
「雅安大渡河邊上有個數據中心，現在裝機規模大概是幾千張GPU，目前主要跑推薦算法和挖礦。不過，我剛拋了一筆比特幣，下個月會有兩千張英偉達最新的頂級計算卡進場，專門留給深度學習。」
他頓了頓。
「你有沒有興趣，去我公司上班？」
「算力，管夠。」
PS：【糊塗舊島】大佬送出的【禮物之王】加更三章第一章