第112章_技術拆解
從藍灣通信出來,左城沒有直接回公司,而是讓沈一鳴和方澤先回去。
他一個人走在街上,秋風有些涼。
5瓦。
這個數字在他腦海里反覆迴蕩。衛星上的功耗預算只有5瓦,而他們要跑的是一套完整的AI調度系統。
晚上九點,左城推開402辦公室的門。沈一鳴和方澤都在,他們面前擺著厚厚一疊技術文檔。
」城哥,你來了。」沈一鳴抬起頭,眼裡帶著一絲疲憊,」我和方澤已經開始拆解技術需求了。」
左城點點頭,在他們對面坐下。
沈一鳴把一張手繪的架構圖推過來:」天穹四期的核心需求是衛星間自主協同組網。每顆衛星都要具備邊緣AI能力,能根據周圍衛星的狀態動態調整自身行為。」
」關鍵難點不是算法,是算力。」方澤接過話頭,」衛星的功耗預算只有5瓦,而傳統AI模型的最低功耗也要30瓦以上。」
30瓦。
超標六倍。
左城沉默了一會兒:」有沒有可能用多卡協同?」
沈一鳴愣了一下:」多卡協同?」
」把一個複雜的AI任務拆分成多個簡單的子任務,分布到不同衛星上。」左城說,」每顆衛星只負責一小部分,通過星間鏈路進行通信協調。」
沈一鳴的眼睛亮了起來。他快步走到白板前,開始畫新的架構圖。
」如果用多卡協同的話,單顆衛星的算力需求可以大幅降低。」他邊畫邊說,」比如原來需要一個30瓦的GPU,現在可能只需要幾個5瓦的低功耗晶片。」
方澤皺起眉頭:」但這樣對星間通信的帶寬和延遲要求會很高。」
」沒錯。」沈一鳴點頭,」所以我們需要一套高效的通信協議,確保分布式任務之間的同步和協調。」
左城看著白板上的新架構,心中已經有了思路。
」一鳴,你覺得這個方向可行嗎?」
沈一鳴沉吟片刻:」理論上可行,而且……」他頓了頓,」我們之前在聯邦學習上積累的技術,恰好可以用在這裡。」
聯邦學習。
那是他們剛剛在智慧城市項目上驗證過的技術。通過分布式訓練,在不暴露原始數據的情況下完成模型優化。
現在,同樣的思路可以應用在衛星協同上。
」不過有個問題。」方澤開口,」即使把算力分散,每顆衛星還是要跑一個精簡版的AI模型。這個模型的壓縮比能做到多少?」
沈一鳴調出測試數據:」目前的壓縮技術可以把模型體積壓縮到原來的三十分之一,但準確率會下降到70%左右。」
」70%不夠。」左城搖頭,」衛星控制需要高可靠性,準確率至少要90%以上。」
會議室里安靜了幾秒。
沈一鳴揉了揉太陽穴:」我需要再想想辦法。」
左城站起身,走到窗邊。窗外是杭城的夜景,燈火輝煌。
他想起剛才在周鶴年辦公室的場景。天穹四期的難度確實比三期高了不止一個量級。
但他有系統。
他有別人沒有的優勢。
關鍵是,如何在不暴露系統存在的情況下,把這個優勢發揮出來。
」城哥。」沈一鳴的聲音打斷了他的思緒,」我有個想法。」
左城轉過身。
」聯邦學習不只是可以用於訓練。」沈一鳴說,」如果把它擴展一下,變成一種'協同推理'的框架,效果可能會更好。」
」協同推理?」
」每顆衛星不只運行自己的模型,還會把自己的推理結果分享給其他衛星。」沈一鳴解釋道,」其他衛星接收到結果後,會結合自己的觀測做出最終決策。這樣就相當於把多顆衛星的'智慧'匯聚在一起。」
方澤眼睛一亮:」這不就是分布式計算嗎?」
」比分布式計算更進一步。」沈一鳴說,」分布式計算是分攤任務,而協同推理是匯聚智慧。兩者的效果完全不同。」
左城聽明白了。
這就是聯邦學習的升級版。不只是分布式訓練,還包括分布式推理。
」如果用協同推理,準確率能提升多少?」他問。
沈一鳴在白板上快速計算著:」保守估計,可以提升15到20個百分點。70%加20%,就是90%。剛好達標。」
90%。
剛好達標。
左城沒有說話。他知道在真實的評審會上,90%的準確率遠遠不夠。那些傳統派的專家會抓住每一個細節進行質疑。
」必須做到95%以上。」他說。
沈一鳴愣了一下:」95%?這……」
」評審會上有林建華。」左城的聲音很平靜,」他不會給我們任何容錯空間。」
會議室再次陷入沉默。
方澤打破沉默:」其實還有一個方向可以嘗試。」
左城和沈一鳴同時看向他。
」晶片。」方澤說,」如果晶片的能效比能提升,我們就不用在算法上做那麼多妥協。」
」你是說定製晶片?」沈一鳴問。
」不是定製,是優化。」方澤說,」寒武紀的MLU270性能足夠,但功耗30瓦。如果我們能在軟體層面做更深度的優化,功耗應該還能降。」
左城點點頭。方澤說的有道理。硬體和軟體兩手抓,才能真正解決問題。
」明天開始,我們分成兩組。」他做出決定,」一組由一鳴負責,繼續優化協同推理框架;另一組由方澤負責,看能不能在晶片層面有突破。」
」好。」兩人齊聲應道。
會議結束,已是深夜。左城讓沈一鳴和方澤先回去,自己留在辦公室。
他打開系統面板,查看當前狀態。
【科技樹狀態】
- 枝幹:通信工程、航天通信、萬物互聯、AI(4/7)
- 積分:277分
- 葉片:39枚(含融合葉片4枚)
- 科技雷達:冷卻中(剩餘12小時)
277分。
足夠做一次科技融合,或者幾次掃描和複製。
但現在科技雷達還在冷卻,他無法直接掃描新技術。
還需要等待。
左城關閉系統面板,靠在椅背上。
5瓦功耗、90%準確率、兩周時間。
三個硬性條件,像三座大山壓在面前。
但他並不慌張。
因為他知道,只要能熬過這段時間,402的AI能力將會有質的飛躍。
不只是為了天穹四期,更是為了更長遠的未來。
他站起身,關燈離開辦公室。
走廊里很安靜,只有腳步聲迴蕩。
明天,又是新的戰鬥。
他一個人走在街上,秋風有些涼。
5瓦。
這個數字在他腦海里反覆迴蕩。衛星上的功耗預算只有5瓦,而他們要跑的是一套完整的AI調度系統。
晚上九點,左城推開402辦公室的門。沈一鳴和方澤都在,他們面前擺著厚厚一疊技術文檔。
」城哥,你來了。」沈一鳴抬起頭,眼裡帶著一絲疲憊,」我和方澤已經開始拆解技術需求了。」
左城點點頭,在他們對面坐下。
沈一鳴把一張手繪的架構圖推過來:」天穹四期的核心需求是衛星間自主協同組網。每顆衛星都要具備邊緣AI能力,能根據周圍衛星的狀態動態調整自身行為。」
」關鍵難點不是算法,是算力。」方澤接過話頭,」衛星的功耗預算只有5瓦,而傳統AI模型的最低功耗也要30瓦以上。」
30瓦。
超標六倍。
左城沉默了一會兒:」有沒有可能用多卡協同?」
沈一鳴愣了一下:」多卡協同?」
」把一個複雜的AI任務拆分成多個簡單的子任務,分布到不同衛星上。」左城說,」每顆衛星只負責一小部分,通過星間鏈路進行通信協調。」
沈一鳴的眼睛亮了起來。他快步走到白板前,開始畫新的架構圖。
」如果用多卡協同的話,單顆衛星的算力需求可以大幅降低。」他邊畫邊說,」比如原來需要一個30瓦的GPU,現在可能只需要幾個5瓦的低功耗晶片。」
方澤皺起眉頭:」但這樣對星間通信的帶寬和延遲要求會很高。」
」沒錯。」沈一鳴點頭,」所以我們需要一套高效的通信協議,確保分布式任務之間的同步和協調。」
左城看著白板上的新架構,心中已經有了思路。
」一鳴,你覺得這個方向可行嗎?」
沈一鳴沉吟片刻:」理論上可行,而且……」他頓了頓,」我們之前在聯邦學習上積累的技術,恰好可以用在這裡。」
聯邦學習。
那是他們剛剛在智慧城市項目上驗證過的技術。通過分布式訓練,在不暴露原始數據的情況下完成模型優化。
現在,同樣的思路可以應用在衛星協同上。
」不過有個問題。」方澤開口,」即使把算力分散,每顆衛星還是要跑一個精簡版的AI模型。這個模型的壓縮比能做到多少?」
沈一鳴調出測試數據:」目前的壓縮技術可以把模型體積壓縮到原來的三十分之一,但準確率會下降到70%左右。」
」70%不夠。」左城搖頭,」衛星控制需要高可靠性,準確率至少要90%以上。」
會議室里安靜了幾秒。
沈一鳴揉了揉太陽穴:」我需要再想想辦法。」
左城站起身,走到窗邊。窗外是杭城的夜景,燈火輝煌。
他想起剛才在周鶴年辦公室的場景。天穹四期的難度確實比三期高了不止一個量級。
但他有系統。
他有別人沒有的優勢。
關鍵是,如何在不暴露系統存在的情況下,把這個優勢發揮出來。
」城哥。」沈一鳴的聲音打斷了他的思緒,」我有個想法。」
左城轉過身。
」聯邦學習不只是可以用於訓練。」沈一鳴說,」如果把它擴展一下,變成一種'協同推理'的框架,效果可能會更好。」
」協同推理?」
」每顆衛星不只運行自己的模型,還會把自己的推理結果分享給其他衛星。」沈一鳴解釋道,」其他衛星接收到結果後,會結合自己的觀測做出最終決策。這樣就相當於把多顆衛星的'智慧'匯聚在一起。」
方澤眼睛一亮:」這不就是分布式計算嗎?」
」比分布式計算更進一步。」沈一鳴說,」分布式計算是分攤任務,而協同推理是匯聚智慧。兩者的效果完全不同。」
左城聽明白了。
這就是聯邦學習的升級版。不只是分布式訓練,還包括分布式推理。
」如果用協同推理,準確率能提升多少?」他問。
沈一鳴在白板上快速計算著:」保守估計,可以提升15到20個百分點。70%加20%,就是90%。剛好達標。」
90%。
剛好達標。
左城沒有說話。他知道在真實的評審會上,90%的準確率遠遠不夠。那些傳統派的專家會抓住每一個細節進行質疑。
」必須做到95%以上。」他說。
沈一鳴愣了一下:」95%?這……」
」評審會上有林建華。」左城的聲音很平靜,」他不會給我們任何容錯空間。」
會議室再次陷入沉默。
方澤打破沉默:」其實還有一個方向可以嘗試。」
左城和沈一鳴同時看向他。
」晶片。」方澤說,」如果晶片的能效比能提升,我們就不用在算法上做那麼多妥協。」
」你是說定製晶片?」沈一鳴問。
」不是定製,是優化。」方澤說,」寒武紀的MLU270性能足夠,但功耗30瓦。如果我們能在軟體層面做更深度的優化,功耗應該還能降。」
左城點點頭。方澤說的有道理。硬體和軟體兩手抓,才能真正解決問題。
」明天開始,我們分成兩組。」他做出決定,」一組由一鳴負責,繼續優化協同推理框架;另一組由方澤負責,看能不能在晶片層面有突破。」
」好。」兩人齊聲應道。
會議結束,已是深夜。左城讓沈一鳴和方澤先回去,自己留在辦公室。
他打開系統面板,查看當前狀態。
【科技樹狀態】
- 枝幹:通信工程、航天通信、萬物互聯、AI(4/7)
- 積分:277分
- 葉片:39枚(含融合葉片4枚)
- 科技雷達:冷卻中(剩餘12小時)
277分。
足夠做一次科技融合,或者幾次掃描和複製。
但現在科技雷達還在冷卻,他無法直接掃描新技術。
還需要等待。
左城關閉系統面板,靠在椅背上。
5瓦功耗、90%準確率、兩周時間。
三個硬性條件,像三座大山壓在面前。
但他並不慌張。
因為他知道,只要能熬過這段時間,402的AI能力將會有質的飛躍。
不只是為了天穹四期,更是為了更長遠的未來。
他站起身,關燈離開辦公室。
走廊里很安靜,只有腳步聲迴蕩。
明天,又是新的戰鬥。