第137章 V0.2
第137章 V0.2
展示完V0.1的性能之後，V0.2才是真正的重磅炸彈。
「雖然VO.1的性能在各位看來已經很強了，但是我的目標始終都是超越CUDA，所以在0.2版本中，我們對Aetos的運行邏輯進行了優化，並且增加了一些重寫過後的算子，相信我，這是一項真正能被稱之為里程碑式的突破。「
周昀微微一笑，敲了一下鍵盤，一副柱狀圖被投影到白板上。
「AetosV0.2vs.V0.1&原生軟體棧性能對比」
在圖表的數據上有幾個非常誇張的數字，幾位老總第一眼看上去就是不相信。
在華為升騰910B上，針對一個超大規模Transformer模型進行訓練，V0.2版本的耗時僅為V0.1版本的58%，更是將升騰原生CANN軟體棧的性能提升了40%！
這都得益於V0.2對升騰晶片內部計算單元和內存帶寬的極致利用，甚至自動發掘並優化了連華為自家工程師都尚未完全摸透的某種計算流水線特性，相較於相同模型在A100上的性能，提升了25%！
而在海光的一款GPGPU上，進行高解析度圖像生成推理，VO.2的吞吐量達到了VO.1的3.2倍，能效比提升150%，也比在A100上的性能要好，還有寒武紀的，也差不多，反正提升都非常之大，而且比A100上運行的性能要好。
「這———這怎麼可能？」在座的要說除了周昀之外誰對技術最為熟悉，那應該就是寒武紀的張博士。
所以他的反應也是最大的，在圖片放出來的時候，他直接就站了起來，湊近屏幕，幾乎要貼上去了。
「這種程度的優化，除非你們拿到了我們最底層的晶片設計文檔！否則怎麼可能比我們自己更了解如何發揮芯的極限？」
另外兩位雖然不在科研一線了，但是對於數據中體現出來的技術，還是能看的出來的：「這也太誇張了，如果不是親眼所見，我很難想像這是真實存在的。」
周昀看著大家的反應，就知道自己的目的已經達到了，隨後簡單解釋了一下V0.2能有如此大提升的原因。
「首先，我們並沒有拿到在座任何一家公司的機密文件，能取得這樣性能的原因和V0.2的核心有關，毫不誇張的說，這絕對是一項黑科技，我稱之為硬體本能感知』的技術，簡稱HIA。」
他切換幻燈片，展示了一個技術框架圖。
「HIA技術在V0.1的時候我們其實就已經做了一些嘗試了，只是當時還不夠成熟，只能做一些粗略的硬體特性探測，我們通過分析代碼在目標硬體上的初步運行表現，來反推一些宏觀的硬體參數，比如緩存大小、內存帶寬的理論峰值等，然後進行一些相對基礎的優化，這能帶來不錯的兼容性和基礎性能，但遠未觸及硬體潛力的天花板。」
「而VO.2的HIA技術，實現了質的飛躍，通過在程序運行的初始階段，注入一系列精心設計的、極其微小的「探針』計算任務，這些探針』任務，其本身計算量可以忽略不計，但它們的設計目的，是精準地觸發硬體內部各種可能存在的瓶頸或特性點，比如不同層級緩存之間的延遲差異、特定計算單元在不同數據模式下的吞吐量變化，、
內存控制器的並發處理極限、甚至是晶片內部微碼調度器的行為偏好。「
他看向張博士，「張博士問，我們是否拿到了底層設計文檔，答案是沒有，也完全不需要。
因為HIA技術通過分析這些探針』任務在納秒級內的執行反饋一例如執行周期數、緩存命中率、電源狀態波動等海量實時數據能夠反向構建出一個高精度的硬體本能模型」，這個模型是完全基於晶片在實際運行中的表現，它可能無法告訴你某個計算單元的具體電晶體數量，但它能極其準確地告訴你，在當前的溫度、電壓和工作負載下，這個單元如何才能達到最高的計算效率。
這也是為什麼V0.2不僅能極大超越V0.1，更能超越晶片設計者自家提供的原生軟體棧。
因為我們是在與硬體進行「實時對話』，對其定製化的執行方案，甚至能超越CUDA的性能，也是同樣如此。「
「啪、啪、啪—」華為的徐總第一個鼓起掌來，「了不起！簡直就是黑科技！周博土，我收回之前所有的質疑，僅憑這項HIA技術，Aetos就擁有了挑戰任何現有軟體棧的底氣！」
「沒錯，如果是這樣的話，確實有挑戰CUDA的底氣，也難怪可以超越我們自己的優化方式。「
周昀點點頭：「不知道這樣的情況下，之前我提出的Aetos開源生態聯盟還有沒有的談？」
有了這樣的技術，主動權就已經完全掌握在周昀手裡了，他們也都不是目光短淺的人，知道HIA這樣的技術代表了什麼。
這相當於把未來放到他們眼前，如果這還抓不住機會，那他們就真的不配坐到現在的位置上。
「有得談！當然有得談！」徐總笑道，「不僅有的談，而且要好好談談，我們華為第個表態，全持成「Aetos開源態聯盟』！」
「曙光也完全贊同！」
「海光也是！」
「寒武紀也是！」
看到在場的幾位巨頭都同意了，他就知道這場談判也差不多了，至於接下來的細節，一時半會兒不可能能談的完：「感謝各位的信任和支持，既然方向已定，那我們接下來就需要敲定聯盟的基本框架和原則，我提議設立「聯盟理事會』作為最高決策機構，創始成員，即在座的各位，自動擁有理事會席位，確保聯盟能夠高效、公平地運轉，真正形成合力，接下來幾天就麻煩各位在杭城多留幾天了。「
「沒問題。」
隨後幾人又大致探討了一下聯盟組建的大致框架，比如合作方式，資金投入比例等，但在大方向上，所有人都展現出了極大的合作誠意。
畢競周昀握的AetosVO.2和HIA技術，以及挑戰CUDA的目標，已經將大家的利益牢牢綁定在一起。
展示完V0.1的性能之後，V0.2才是真正的重磅炸彈。
「雖然VO.1的性能在各位看來已經很強了，但是我的目標始終都是超越CUDA，所以在0.2版本中，我們對Aetos的運行邏輯進行了優化，並且增加了一些重寫過後的算子，相信我，這是一項真正能被稱之為里程碑式的突破。「
周昀微微一笑，敲了一下鍵盤，一副柱狀圖被投影到白板上。
「AetosV0.2vs.V0.1&原生軟體棧性能對比」
在圖表的數據上有幾個非常誇張的數字，幾位老總第一眼看上去就是不相信。
在華為升騰910B上，針對一個超大規模Transformer模型進行訓練，V0.2版本的耗時僅為V0.1版本的58%，更是將升騰原生CANN軟體棧的性能提升了40%！
這都得益於V0.2對升騰晶片內部計算單元和內存帶寬的極致利用，甚至自動發掘並優化了連華為自家工程師都尚未完全摸透的某種計算流水線特性，相較於相同模型在A100上的性能，提升了25%！
而在海光的一款GPGPU上，進行高解析度圖像生成推理，VO.2的吞吐量達到了VO.1的3.2倍，能效比提升150%，也比在A100上的性能要好，還有寒武紀的，也差不多，反正提升都非常之大，而且比A100上運行的性能要好。
「這———這怎麼可能？」在座的要說除了周昀之外誰對技術最為熟悉，那應該就是寒武紀的張博士。
所以他的反應也是最大的，在圖片放出來的時候，他直接就站了起來，湊近屏幕，幾乎要貼上去了。
「這種程度的優化，除非你們拿到了我們最底層的晶片設計文檔！否則怎麼可能比我們自己更了解如何發揮芯的極限？」
另外兩位雖然不在科研一線了，但是對於數據中體現出來的技術，還是能看的出來的：「這也太誇張了，如果不是親眼所見，我很難想像這是真實存在的。」
周昀看著大家的反應，就知道自己的目的已經達到了，隨後簡單解釋了一下V0.2能有如此大提升的原因。
「首先，我們並沒有拿到在座任何一家公司的機密文件，能取得這樣性能的原因和V0.2的核心有關，毫不誇張的說，這絕對是一項黑科技，我稱之為硬體本能感知』的技術，簡稱HIA。」
他切換幻燈片，展示了一個技術框架圖。
「HIA技術在V0.1的時候我們其實就已經做了一些嘗試了，只是當時還不夠成熟，只能做一些粗略的硬體特性探測，我們通過分析代碼在目標硬體上的初步運行表現，來反推一些宏觀的硬體參數，比如緩存大小、內存帶寬的理論峰值等，然後進行一些相對基礎的優化，這能帶來不錯的兼容性和基礎性能，但遠未觸及硬體潛力的天花板。」
「而VO.2的HIA技術，實現了質的飛躍，通過在程序運行的初始階段，注入一系列精心設計的、極其微小的「探針』計算任務，這些探針』任務，其本身計算量可以忽略不計，但它們的設計目的，是精準地觸發硬體內部各種可能存在的瓶頸或特性點，比如不同層級緩存之間的延遲差異、特定計算單元在不同數據模式下的吞吐量變化，、
內存控制器的並發處理極限、甚至是晶片內部微碼調度器的行為偏好。「
他看向張博士，「張博士問，我們是否拿到了底層設計文檔，答案是沒有，也完全不需要。
因為HIA技術通過分析這些探針』任務在納秒級內的執行反饋一例如執行周期數、緩存命中率、電源狀態波動等海量實時數據能夠反向構建出一個高精度的硬體本能模型」，這個模型是完全基於晶片在實際運行中的表現，它可能無法告訴你某個計算單元的具體電晶體數量，但它能極其準確地告訴你，在當前的溫度、電壓和工作負載下，這個單元如何才能達到最高的計算效率。
這也是為什麼V0.2不僅能極大超越V0.1，更能超越晶片設計者自家提供的原生軟體棧。
因為我們是在與硬體進行「實時對話』，對其定製化的執行方案，甚至能超越CUDA的性能，也是同樣如此。「
「啪、啪、啪—」華為的徐總第一個鼓起掌來，「了不起！簡直就是黑科技！周博土，我收回之前所有的質疑，僅憑這項HIA技術，Aetos就擁有了挑戰任何現有軟體棧的底氣！」
「沒錯，如果是這樣的話，確實有挑戰CUDA的底氣，也難怪可以超越我們自己的優化方式。「
周昀點點頭：「不知道這樣的情況下，之前我提出的Aetos開源生態聯盟還有沒有的談？」
有了這樣的技術，主動權就已經完全掌握在周昀手裡了，他們也都不是目光短淺的人，知道HIA這樣的技術代表了什麼。
這相當於把未來放到他們眼前，如果這還抓不住機會，那他們就真的不配坐到現在的位置上。
「有得談！當然有得談！」徐總笑道，「不僅有的談，而且要好好談談，我們華為第個表態，全持成「Aetos開源態聯盟』！」
「曙光也完全贊同！」
「海光也是！」
「寒武紀也是！」
看到在場的幾位巨頭都同意了，他就知道這場談判也差不多了，至於接下來的細節，一時半會兒不可能能談的完：「感謝各位的信任和支持，既然方向已定，那我們接下來就需要敲定聯盟的基本框架和原則，我提議設立「聯盟理事會』作為最高決策機構，創始成員，即在座的各位，自動擁有理事會席位，確保聯盟能夠高效、公平地運轉，真正形成合力，接下來幾天就麻煩各位在杭城多留幾天了。「
「沒問題。」
隨後幾人又大致探討了一下聯盟組建的大致框架，比如合作方式，資金投入比例等，但在大方向上，所有人都展現出了極大的合作誠意。
畢競周昀握的AetosVO.2和HIA技術，以及挑戰CUDA的目標，已經將大家的利益牢牢綁定在一起。