第143章 太恐怖了叭。。&拿下!
第143章 太恐怖了叭。。&拿下!
為什麼這麼說呢?
2014年,巴拉巴拉等人在LSTM基礎上,提出了「注意力機制」,解決了傳統「序列到序列模型」的瓶頸問題。
這一創新,為2017年出現的Transformer架構,埋下伏筆。
而Transformer架構,正是後世大模型的核心架構!
同時,LSTM在語音識別、機器翻譯等領域的成功應用,推動了深度學習框架的優化,
以及GPU加速技術的成熟,為大模型時代奠定了工程基礎!
提前布局LSTM,不僅可幫助極光,在當前建立技術壁壘,更能通過持續疊代演進,為後續切入AI大模型領域,積累寶貴的算法工程經驗和數據資產!
而算法和AI,前世今生都是洛川最感興趣的領域!
同時,如果能提前掌握SLTM和Transformer架構,還可推動國內GPU廠商的研發進度。
比如,入股一家或幾家國產GPU廠商,向他們開放模型底層優化需求,推動專用定製晶片的合作研發,從而實現硬體-算法協同優化。
同時聯合中芯國際等廠商,推動國產65nm/45nm工藝與GPU架構同步開發。
此時的中芯國際,已經具備生產65nm工藝的能力了。
45nm產品剛剛通過良率測試,還需要一段時間才能進入量產階段。
這也是當前全球GPU廠商,普遍採用的工藝。
比如英偉達的8200和9800系列,採用的就是65nm工藝。
之後,通過在悠米社區、悠米視頻、微博、雲計算平台等高頻場景,部署基於國產GPU的LSTM/Transformer模型,驗證性能指標,數據持續反哺硬體研發。
其二,基於極光雲計算平台,開發類似於英偉達CUDA的國產並行計算架構,
向開發者開放支持國產GPU的通用計算API,同時提供免費的開發工具鏈、教程等,建立開發者社區,構建生態系統。
跟悠米社區的開放平台戰略十分類似。
CUDA是英偉達於06年推出的,並行計算平台與編程模型。
最初是給遊戲開發者用的,但卻意外打破了GPU的專用性。
使得GPU從單純的圖形渲染工具,轉變為通用計算設備。
如AI訓練、科學模擬等。
後世,大模型風潮爆發之後,CUDA意外成為了AI領域的「作業系統」。
全球90%的AI模擬訓練,都是基於CUDA。
不過在此時,CUDA生態還很稚嫩,英偉達也還沒意識到其中的潛力,還是很有機會追趕的。
這就是掛壁的優勢同時,洛川還可通過開發重度3D遊戲,強制要求遊戲引擎深度適配國產GPU的方式,
聯合國內的GPU廠商,利用遊戲場景的實時渲染需求,強行推動GPU廠商,優化顯存帶寬、
光線追蹤、動態頻率調整等技術。
這幾項遊戲領域的技術,同樣也都可應用在AI領域。
比如光線追蹤技術,用在遊戲裡可提升畫質,之後卻被優化為AI模型的「稀疏計算」,可有效提升AI計算晶片的效率。
動態頻率調整技術,用在遊戲顯卡里,是為了平衡性能與功耗;被移植到數據中心G
PU上,卻可降低AT訓練成本。
而當GPU廠商技術達標之後,還可順勢推出「國產GPU遊戲特供版」,通過遊戲熱度帶動銷量,反哺硬體研發。
英偉達的GPU,性能領先全球,有很大一部分原因是,初期做遊戲顯卡,為他們積累了大量的用戶和市場份額。
這意味著,英偉達有更多的資金投入研發,更大的用戶技術來測試和反饋,從而推動技術更快進步,與競品拉開差距。
也因此,搶占消費級市場,還是很有必要的。
即便初期國產GPU的性能,大概率還是會落後於英偉達。
但某種程度上說,極光開發的這款遊戲,就是為國產GPU量身定做的,想要實現局部超越,那還不是輕輕鬆鬆。
至於開發哪款遊戲,洛川也已經想好了聽洛川洋洋灑灑、慷慨激昂的說了一大堆,宋錦和陳詩瑤都懵了。
宋錦是純懵。
陳詩瑤則是被驚到了。
她只是想來問個算法問題而已,怎麼突然就扯到了什麼Transformer架構?
然後又進一步演進到,想都沒想過的AI大模型??
然後又雙從AI大模型,莫名其妙跳轉到了國產GPU。。
然後又雙從國產GPU,跳轉到了重度3D遊戲。。
聽洛川那意思,他甚至已經規劃好,如何推動國產GPU廠商,實現跨越式發展!
就離譜!
更離譜的是,洛川的計劃,聽起來似乎還蠻靠譜的。。
這傢伙的腦袋到底是怎麼長的。
也太恐怖了叭。。
看著面前兩個滿臉痴呆,一點反應也不給的美少女,洛川意興闌珊的擺擺手。
「得了,該幹嘛幹嘛去吧,儘快把微博搞定,有什麼不懂的自己查論文,查不到就問我。」
「噢。。」
翌日上午。
天氣晴。
洛川迎著朝陽做早操的時候,一道突如其來的「在!你!的!心!上!」,嚇得他整個一哆嗦,只覺大腦頓時一片清明。
而陪著他看日出的宋錦同學,頓覺若有所得。
掃興的撇撇嘴,洛川給看入迷的女友丟到床上,隨手撈過風情跑馬燈手機,接通電話。
「大哥,國內才八點,讓不讓人睡覺了。」
電話那頭,陳博韜不爽的吐槽道:「不是哥們兒,勞資在老美吃不好睡不好,整天忙得跟條狗一樣,你跟我說你八點還在睡覺?你還是個人??」
「你特麼睡不好你怨誰,鬼知道你大晚上都幹什麼了~」
「勞資什麼也沒幹!」
「啊對對對,別擱這兒叭叭了,趕緊有事兒說事兒。」幫女友按摩著小細腿,洛川隨口道。
「拳頭這邊談妥了,2800萬美金,60%股份,外加國內代理權。」
洛川砸吧砸吧嘴。
稍微有點溢價,但只要能拿下,怎麼都是賺,也省得再拖下去,平白多出些么蛾子。
「成,那就先這樣吧,你那邊做好交接,儘快趕回來,有新任務交給你。」
「什麼任務啊,真就一天都不讓休息唄。」陳博韜不滿的嘟囊兩句。
「成,那給你放兩天假,在那邊悠著點,別閃著腰~」
「我不知道你在說什麼。」
「呵呵。」
掛斷電話,洛川愜意的仰躺在柔軟的大床上,給女友拽進懷中,吧唧就是兩口。
「寶兒,咱又要發財了,慶祝一下唄~」
「我看就沒有這個必。。唔!!要了吧。。」
為什麼這麼說呢?
2014年,巴拉巴拉等人在LSTM基礎上,提出了「注意力機制」,解決了傳統「序列到序列模型」的瓶頸問題。
這一創新,為2017年出現的Transformer架構,埋下伏筆。
而Transformer架構,正是後世大模型的核心架構!
同時,LSTM在語音識別、機器翻譯等領域的成功應用,推動了深度學習框架的優化,
以及GPU加速技術的成熟,為大模型時代奠定了工程基礎!
提前布局LSTM,不僅可幫助極光,在當前建立技術壁壘,更能通過持續疊代演進,為後續切入AI大模型領域,積累寶貴的算法工程經驗和數據資產!
而算法和AI,前世今生都是洛川最感興趣的領域!
同時,如果能提前掌握SLTM和Transformer架構,還可推動國內GPU廠商的研發進度。
比如,入股一家或幾家國產GPU廠商,向他們開放模型底層優化需求,推動專用定製晶片的合作研發,從而實現硬體-算法協同優化。
同時聯合中芯國際等廠商,推動國產65nm/45nm工藝與GPU架構同步開發。
此時的中芯國際,已經具備生產65nm工藝的能力了。
45nm產品剛剛通過良率測試,還需要一段時間才能進入量產階段。
這也是當前全球GPU廠商,普遍採用的工藝。
比如英偉達的8200和9800系列,採用的就是65nm工藝。
之後,通過在悠米社區、悠米視頻、微博、雲計算平台等高頻場景,部署基於國產GPU的LSTM/Transformer模型,驗證性能指標,數據持續反哺硬體研發。
其二,基於極光雲計算平台,開發類似於英偉達CUDA的國產並行計算架構,
向開發者開放支持國產GPU的通用計算API,同時提供免費的開發工具鏈、教程等,建立開發者社區,構建生態系統。
跟悠米社區的開放平台戰略十分類似。
CUDA是英偉達於06年推出的,並行計算平台與編程模型。
最初是給遊戲開發者用的,但卻意外打破了GPU的專用性。
使得GPU從單純的圖形渲染工具,轉變為通用計算設備。
如AI訓練、科學模擬等。
後世,大模型風潮爆發之後,CUDA意外成為了AI領域的「作業系統」。
全球90%的AI模擬訓練,都是基於CUDA。
不過在此時,CUDA生態還很稚嫩,英偉達也還沒意識到其中的潛力,還是很有機會追趕的。
這就是掛壁的優勢同時,洛川還可通過開發重度3D遊戲,強制要求遊戲引擎深度適配國產GPU的方式,
聯合國內的GPU廠商,利用遊戲場景的實時渲染需求,強行推動GPU廠商,優化顯存帶寬、
光線追蹤、動態頻率調整等技術。
這幾項遊戲領域的技術,同樣也都可應用在AI領域。
比如光線追蹤技術,用在遊戲裡可提升畫質,之後卻被優化為AI模型的「稀疏計算」,可有效提升AI計算晶片的效率。
動態頻率調整技術,用在遊戲顯卡里,是為了平衡性能與功耗;被移植到數據中心G
PU上,卻可降低AT訓練成本。
而當GPU廠商技術達標之後,還可順勢推出「國產GPU遊戲特供版」,通過遊戲熱度帶動銷量,反哺硬體研發。
英偉達的GPU,性能領先全球,有很大一部分原因是,初期做遊戲顯卡,為他們積累了大量的用戶和市場份額。
這意味著,英偉達有更多的資金投入研發,更大的用戶技術來測試和反饋,從而推動技術更快進步,與競品拉開差距。
也因此,搶占消費級市場,還是很有必要的。
即便初期國產GPU的性能,大概率還是會落後於英偉達。
但某種程度上說,極光開發的這款遊戲,就是為國產GPU量身定做的,想要實現局部超越,那還不是輕輕鬆鬆。
至於開發哪款遊戲,洛川也已經想好了聽洛川洋洋灑灑、慷慨激昂的說了一大堆,宋錦和陳詩瑤都懵了。
宋錦是純懵。
陳詩瑤則是被驚到了。
她只是想來問個算法問題而已,怎麼突然就扯到了什麼Transformer架構?
然後又進一步演進到,想都沒想過的AI大模型??
然後又雙從AI大模型,莫名其妙跳轉到了國產GPU。。
然後又雙從國產GPU,跳轉到了重度3D遊戲。。
聽洛川那意思,他甚至已經規劃好,如何推動國產GPU廠商,實現跨越式發展!
就離譜!
更離譜的是,洛川的計劃,聽起來似乎還蠻靠譜的。。
這傢伙的腦袋到底是怎麼長的。
也太恐怖了叭。。
看著面前兩個滿臉痴呆,一點反應也不給的美少女,洛川意興闌珊的擺擺手。
「得了,該幹嘛幹嘛去吧,儘快把微博搞定,有什麼不懂的自己查論文,查不到就問我。」
「噢。。」
翌日上午。
天氣晴。
洛川迎著朝陽做早操的時候,一道突如其來的「在!你!的!心!上!」,嚇得他整個一哆嗦,只覺大腦頓時一片清明。
而陪著他看日出的宋錦同學,頓覺若有所得。
掃興的撇撇嘴,洛川給看入迷的女友丟到床上,隨手撈過風情跑馬燈手機,接通電話。
「大哥,國內才八點,讓不讓人睡覺了。」
電話那頭,陳博韜不爽的吐槽道:「不是哥們兒,勞資在老美吃不好睡不好,整天忙得跟條狗一樣,你跟我說你八點還在睡覺?你還是個人??」
「你特麼睡不好你怨誰,鬼知道你大晚上都幹什麼了~」
「勞資什麼也沒幹!」
「啊對對對,別擱這兒叭叭了,趕緊有事兒說事兒。」幫女友按摩著小細腿,洛川隨口道。
「拳頭這邊談妥了,2800萬美金,60%股份,外加國內代理權。」
洛川砸吧砸吧嘴。
稍微有點溢價,但只要能拿下,怎麼都是賺,也省得再拖下去,平白多出些么蛾子。
「成,那就先這樣吧,你那邊做好交接,儘快趕回來,有新任務交給你。」
「什麼任務啊,真就一天都不讓休息唄。」陳博韜不滿的嘟囊兩句。
「成,那給你放兩天假,在那邊悠著點,別閃著腰~」
「我不知道你在說什麼。」
「呵呵。」
掛斷電話,洛川愜意的仰躺在柔軟的大床上,給女友拽進懷中,吧唧就是兩口。
「寶兒,咱又要發財了,慶祝一下唄~」
「我看就沒有這個必。。唔!!要了吧。。」