第520章 和DS的合作 三
回到北大後,徐辰的日子變得更加充實。
他依然每周出現在階梯教室,給學生們講解數學的本質;每兩周也要主持波利尼亞克猜想課題組的組會,推進那個「練手項目「的進度。
而除了學校這邊的教學和科研之外,他還多了一個新身份——DeepSeek工程團隊的學術顧問。
……
和產業界的合作,比徐辰原先設想的更慢,也更瑣碎。
他原本以為,自己已經把「諸葛」架構的數學底子打得很牢,只要把理論交出去,剩下的事就是工程師們的工作了。後來他很快發現,這種想法有一點學院派的天真。理論上閉合的東西,不等於它就能在真實機器上順暢運行。你可以在紙面上得到一種近乎完美的結構,但它一旦進入硬體、進入帶寬、進入顯存,進入那些看不見卻無處不在的資源約束,事情就會變得完全不同。
某種意義上說,他第一次真切地理解了「工程」這個詞。
不是把代碼寫出來那麼簡單,而是不斷和現實談判:和機器談判,和成本談判,和時間談判,甚至和那些並不優雅、卻客觀存在的物理邊界談判。
這段時間裡,系統面板也悄無聲息地給了他一點反饋。原本幾乎沒怎麼動過的工程學經驗,從 Lv.0(70/100) 一點點往上跳。等到第一輪架構適配做完,竟然直接跨過了門檻,變成了 工程學 Lv.1(12/500)。徐辰看著那行數字,一時間還有些哭笑不得。以前他總覺得工程是「把正確的理論做髒一點」,現在才發現,能把一個理論真正落地,本身就是另一種高強度的智力勞動。和頂級團隊一起做事,漲經驗的速度確實快得離譜。
……
這種權衡,在第一階段最為集中。
第一個階段是demo模型的理論講解。
前兩周,DeepSeek的工程團隊先是把徐辰之前在雁棲湖跑出來的那個Demo版本徹底拆解了一遍。他們需要理解每一個模塊的底層邏輯,找出所有可能的性能瓶頸和工程隱患。
這個過程中,徐辰的主要工作就是充當「活的技術文檔「。工程師們每天都會提出各種問題:
「徐教授,這裡的張量收縮為什麼選擇這種方式而不是那種?從計算複雜度看,另一種方式好像能減少30%的浮點運算?」
「您這個SLRM的推理深度閾值為什麼設在這個值?能不能動態調整,讓它根據不同問題自適應?」
「關於流形上的調和形式識別,您當初為什麼要用這套拓撲方案?有沒有其他的等價表述,可能更容易在GPU上並行化?」
每一個問題背後,都隱含著工程師們在嘗試用產業思維去改造學術思維。這些問題問得很細,也很現實。做工程的人關心的是「為什麼非它不可」,因為每一個「非它不可」的設計,最後都要落實成時間、機器和預算。
他們不是在質疑徐辰的設計,而是在尋找那個「數學的嚴謹性「和「工程的可行性「之間的平衡點。
徐辰每次都會去北京分公司的現場耐心地解釋,有時候甚至需要在白板上現場推導一遍,讓工程師們真正理解這不是某個隨意的參數,而是有嚴格的數學原理支撐的設計選擇。
因為跑得實在太勤,徐辰甚至咬咬牙,忍痛花錢辦了一張哈囉單車的三十天不限次騎行月卡——畢竟單次扣費超時一塊錢的心痛,哪怕是身價兩億的大佬也承受不起。
……
熬過了第一階段,第二階段是「架構適配」,這個階段總算讓徐辰稍微喘了口氣。
徐辰提供的諸葛框架,是在學術環境下的理想設計。但產業界需要的是能跑在實際硬體上、能處理真實數據、能扛住各種邊界情況的工程產品。
理想設計追求的是一種接近數學證明的完整性:每個模塊為什麼存在,每條推理鏈如何閉合,最好都能在邏輯上自圓其說。工程產品則是另一回事。它要面對的是長時間運行的穩定性、批量調度的效率、錯誤恢復機制,以及一個最常見也最世俗的問題——錢。
這意味著要把徐辰那套優美但理想化的數學推導,翻譯成能在GPU/LPU集群上並行運行的核函數和張量操作。
還好DeepSeek恰好擅長這種翻譯。
要知道,DeepSeek在業界最引以為傲的,就是他們那變態的底層級別優化能力。早在DeepSeek-R1橫空出世的時代,他們就靠著手寫PTX彙編代碼和極致的顯存碎片管理,硬生生把大模型的訓練成本打到了OpenAI的幾十分之一!雖然不同公司對「幾十分之一」的具體口徑未必完全一致,但沒有太多人否認一點:DeepSeek幾乎是最早把底層算法優化變成公司文化的團隊之一。
如果說美國幾家頭部AI公司代表的是一種工業資本的暴力美學,那麼DeepSeek更像是另一種傳統:把資源不足當作前提,把約束當作設計的一部分,然後在裡面逼出效率。梁文鋒顯然很信這一套。很多時候,他看工程方案時先問的不是「能不能做」,而是「這裡是不是還有浪費」。
在這個逐模塊重寫、測試、壓榨極限的過程中,工程團隊難免需要對原始框架做一些魔改。於是工程團隊都會拿著方案詢問徐辰:這樣改動會不會影響理論的完整性?功能上會不會出現缺陷?徐辰則需要快速判斷這些工程妥協是否會觸碰到底層邏輯的紅線。
這裡的一些改動很微妙,因為大多數改動都不是非黑即白的。它們不是對或錯,而是能接受或不能接受。某些地方,徐辰會同意退一步,比如允許某種中間表示不再保留最優雅的形式,只要不破壞最終推理的同構性;但另一些地方,他會顯得異常堅決。只要他判斷某個改動會讓模型在極端數學場景下失去可靠性,那就沒有商量餘地。
……
等到模型徹底成型,進入第三階段的「預訓練」的時候,徐辰基本就不怎麼忙了。
他只需要定期給工程團隊拋出一些一些已知答案的數學問題作為試題,讓模型去嘗試。通過這些試題的表現,來判斷模型是否出現了過擬合(死記硬背了訓練數據)或欠擬合(沒有真正學到數學的本質)。
在這個過程中,徐辰也在思考一個更深層的問題:怎樣才能真正評估一個數學AI的能力?
普通的AI評估方法是在某個基準數據集上跑個準確率,但在這裡不太適用。因為數學研究本身就是在不斷地面對從未見過的問題。一個能在已知題庫上刷高分的AI,未必能在真正的數學前沿有任何幫助。
徐辰很清楚,數學不是標準化考試。真正的研究現場裡,常見的情況不是「你會不會做這道題」,而是「你能不能儘早發現這條路根本不值得做」。這也是很多青年學者最消耗生命力的地方,不是不夠聰明,而是把太多時間用在了錯誤方向上。
這就像用一個人在高考模擬卷上的成績,去評判他解決現實工程問題的能力,這完全是兩碼事。
……
他依然每周出現在階梯教室,給學生們講解數學的本質;每兩周也要主持波利尼亞克猜想課題組的組會,推進那個「練手項目「的進度。
而除了學校這邊的教學和科研之外,他還多了一個新身份——DeepSeek工程團隊的學術顧問。
……
和產業界的合作,比徐辰原先設想的更慢,也更瑣碎。
他原本以為,自己已經把「諸葛」架構的數學底子打得很牢,只要把理論交出去,剩下的事就是工程師們的工作了。後來他很快發現,這種想法有一點學院派的天真。理論上閉合的東西,不等於它就能在真實機器上順暢運行。你可以在紙面上得到一種近乎完美的結構,但它一旦進入硬體、進入帶寬、進入顯存,進入那些看不見卻無處不在的資源約束,事情就會變得完全不同。
某種意義上說,他第一次真切地理解了「工程」這個詞。
不是把代碼寫出來那麼簡單,而是不斷和現實談判:和機器談判,和成本談判,和時間談判,甚至和那些並不優雅、卻客觀存在的物理邊界談判。
這段時間裡,系統面板也悄無聲息地給了他一點反饋。原本幾乎沒怎麼動過的工程學經驗,從 Lv.0(70/100) 一點點往上跳。等到第一輪架構適配做完,竟然直接跨過了門檻,變成了 工程學 Lv.1(12/500)。徐辰看著那行數字,一時間還有些哭笑不得。以前他總覺得工程是「把正確的理論做髒一點」,現在才發現,能把一個理論真正落地,本身就是另一種高強度的智力勞動。和頂級團隊一起做事,漲經驗的速度確實快得離譜。
……
這種權衡,在第一階段最為集中。
第一個階段是demo模型的理論講解。
前兩周,DeepSeek的工程團隊先是把徐辰之前在雁棲湖跑出來的那個Demo版本徹底拆解了一遍。他們需要理解每一個模塊的底層邏輯,找出所有可能的性能瓶頸和工程隱患。
這個過程中,徐辰的主要工作就是充當「活的技術文檔「。工程師們每天都會提出各種問題:
「徐教授,這裡的張量收縮為什麼選擇這種方式而不是那種?從計算複雜度看,另一種方式好像能減少30%的浮點運算?」
「您這個SLRM的推理深度閾值為什麼設在這個值?能不能動態調整,讓它根據不同問題自適應?」
「關於流形上的調和形式識別,您當初為什麼要用這套拓撲方案?有沒有其他的等價表述,可能更容易在GPU上並行化?」
每一個問題背後,都隱含著工程師們在嘗試用產業思維去改造學術思維。這些問題問得很細,也很現實。做工程的人關心的是「為什麼非它不可」,因為每一個「非它不可」的設計,最後都要落實成時間、機器和預算。
他們不是在質疑徐辰的設計,而是在尋找那個「數學的嚴謹性「和「工程的可行性「之間的平衡點。
徐辰每次都會去北京分公司的現場耐心地解釋,有時候甚至需要在白板上現場推導一遍,讓工程師們真正理解這不是某個隨意的參數,而是有嚴格的數學原理支撐的設計選擇。
因為跑得實在太勤,徐辰甚至咬咬牙,忍痛花錢辦了一張哈囉單車的三十天不限次騎行月卡——畢竟單次扣費超時一塊錢的心痛,哪怕是身價兩億的大佬也承受不起。
……
熬過了第一階段,第二階段是「架構適配」,這個階段總算讓徐辰稍微喘了口氣。
徐辰提供的諸葛框架,是在學術環境下的理想設計。但產業界需要的是能跑在實際硬體上、能處理真實數據、能扛住各種邊界情況的工程產品。
理想設計追求的是一種接近數學證明的完整性:每個模塊為什麼存在,每條推理鏈如何閉合,最好都能在邏輯上自圓其說。工程產品則是另一回事。它要面對的是長時間運行的穩定性、批量調度的效率、錯誤恢復機制,以及一個最常見也最世俗的問題——錢。
這意味著要把徐辰那套優美但理想化的數學推導,翻譯成能在GPU/LPU集群上並行運行的核函數和張量操作。
還好DeepSeek恰好擅長這種翻譯。
要知道,DeepSeek在業界最引以為傲的,就是他們那變態的底層級別優化能力。早在DeepSeek-R1橫空出世的時代,他們就靠著手寫PTX彙編代碼和極致的顯存碎片管理,硬生生把大模型的訓練成本打到了OpenAI的幾十分之一!雖然不同公司對「幾十分之一」的具體口徑未必完全一致,但沒有太多人否認一點:DeepSeek幾乎是最早把底層算法優化變成公司文化的團隊之一。
如果說美國幾家頭部AI公司代表的是一種工業資本的暴力美學,那麼DeepSeek更像是另一種傳統:把資源不足當作前提,把約束當作設計的一部分,然後在裡面逼出效率。梁文鋒顯然很信這一套。很多時候,他看工程方案時先問的不是「能不能做」,而是「這裡是不是還有浪費」。
在這個逐模塊重寫、測試、壓榨極限的過程中,工程團隊難免需要對原始框架做一些魔改。於是工程團隊都會拿著方案詢問徐辰:這樣改動會不會影響理論的完整性?功能上會不會出現缺陷?徐辰則需要快速判斷這些工程妥協是否會觸碰到底層邏輯的紅線。
這裡的一些改動很微妙,因為大多數改動都不是非黑即白的。它們不是對或錯,而是能接受或不能接受。某些地方,徐辰會同意退一步,比如允許某種中間表示不再保留最優雅的形式,只要不破壞最終推理的同構性;但另一些地方,他會顯得異常堅決。只要他判斷某個改動會讓模型在極端數學場景下失去可靠性,那就沒有商量餘地。
……
等到模型徹底成型,進入第三階段的「預訓練」的時候,徐辰基本就不怎麼忙了。
他只需要定期給工程團隊拋出一些一些已知答案的數學問題作為試題,讓模型去嘗試。通過這些試題的表現,來判斷模型是否出現了過擬合(死記硬背了訓練數據)或欠擬合(沒有真正學到數學的本質)。
在這個過程中,徐辰也在思考一個更深層的問題:怎樣才能真正評估一個數學AI的能力?
普通的AI評估方法是在某個基準數據集上跑個準確率,但在這裡不太適用。因為數學研究本身就是在不斷地面對從未見過的問題。一個能在已知題庫上刷高分的AI,未必能在真正的數學前沿有任何幫助。
徐辰很清楚,數學不是標準化考試。真正的研究現場裡,常見的情況不是「你會不會做這道題」,而是「你能不能儘早發現這條路根本不值得做」。這也是很多青年學者最消耗生命力的地方,不是不夠聰明,而是把太多時間用在了錯誤方向上。
這就像用一個人在高考模擬卷上的成績,去評判他解決現實工程問題的能力,這完全是兩碼事。
……