第61章 綠卡，專利，開源
陳一然還是逃過了去加拿大的命運，畢竟雖然 TED 說他的綠卡批准了，但是離真正拿到還有有一段時間呢。
這年頭美國移民局根本沒有實時的推送系統，只能每天去 USCIS 官網輸入那個長達 13 位的收據編號查詢最新狀態。
什麼時候從 Case Received 收到案件變成 Card Production Ordered 開始制卡。
就證明小卡片已經開始製作了，然後再等個一兩周就能拿到了。
這也取決於運氣，美國政府的效率懂得都懂。
陳一然的大通銀行的金卡，黃銅合金打造，表面鍍了一層真正的鈀金和 23K 黃金，重量達到 28.35 克。手工雕刻了他的名字，以及他要求的皮蛋他爹的字樣。
只用了 3 天，就送到手了。
但是綠卡呢，一張塑料材質卡片，慢的話居然要做一個多星期，甚至用 USPS 美國郵政的平郵寄過來。
不過卡沒過來，信卻先到了。
周一，陳一然照例睡到中午才起床，先看到的就是門口的燈光提示，趕緊去看了電腦信息，顯示之前有人在家門口逗留。
車子和人員倒不是陌生人，都在安全資料庫里出現過，是負責這片區域的車輛和郵遞員，所以就沒有響警報。
去郵箱翻出來信件一看，普通的白色大號信封，帶有鷹徽水印。
寄件人：U.S. Department of Homeland Security, U.S. Citizenship and Immigration Services，也就是美國國土安全部美國公民及移民服務局。
陳一然知道了，這是他的歡迎信。
打開一看果然是的，bla bla bla 恭喜！你的 I-485 已獲批。你現在是美國合法永久居民了。bla bla bla 你的實體綠卡將在 30 天內寄達。有效期 10 年。bla bla bla 由於勾選了辦理社安號，SSA 會在 2 周內寄出無工作限制的 SSN 卡。
一堆 bla bla bla 的廢話中，就三句是有點營養的話。
煩人的還有，就算拿到綠卡，買槍也很麻煩，加州一直是全美控槍最嚴的州之一，一直執行 10 天強制等待期。在槍店交完申請表、按完手印的那一刻算起，會連續累加 240 個小時。據說這算是個冷靜期，避免有些人衝動買槍去報復別人。
期間政府也會調查購買人有沒有出現在聯邦的國家即時犯罪背景調查系統和加州的司法部系統里，有時甚至會查有沒有嚴重的交通違章或精神病史。
攻擊手段還很匱乏，不過好在周日，防禦措施到了車庫。
G55 AMG B7。黑色啞光漆面，比標準 G55 重了將近一噸，但外觀上幾乎看不出任何改裝痕跡。全是隱形裝甲，所有防彈層都藏在原廠面板下面，裝甲鋼門板，車窗玻璃有五厘米厚，從外面看是深色貼膜，從裡面看跟普通玻璃一樣通透。
雪佛蘭 Suburban 2500 HD B7，看著更有政府用車的味道。陳一然看到之後就想到了美國隊長 2 裡面的劇情，那輛車關鍵時刻可算是掉了鏈子，不過中間安一挺機槍好像挺帶感的。
公司也傳來好消息，周末自己運行兩天之後，情況比大家想的好很多。
周天佑和拉傑一起調了 CUDA 的內存分配策略，把 batch size 從 64 翻到了 128，顯卡利用率從百分之四十幾飆到了百分之八十多。
之後的幾天，情況越來越理想。
周二早上的截圖已經能看到一條完整的下降曲線。
周三，adaptec1，HPWL 1.08，已經穩定了十二小時了。
陳一然不得不在周四提前去了趟公司，白板上這次貼了一張對比表格。
adaptec1 二十萬個 cell，三行數據：
隨機 baseline：HPWL = ISPD 最優解 × 2.3
模擬退火：× 1.18
強化學習：× 1.08
高德偉站在白板前面，笑著說：「這還沒上全benchmark，adaptec1 只是最小的一個。如果能在大案例上復現這個差距的話。」
陳一然把高德偉推走，自己站在白板前面，讓茉莉把表格上的數據全部掃了一遍。
【沒有任何異常。曲線收斂，loss 分布，reward 函數的權重分配，全是合理的。數據是乾淨的，強化學習策略沒有過擬合，模型泛化能力還需要更多 benchmark 驗證，但至少在小規模上，方向沒錯。】
陳一然和茉莉討論了幾句，在白板上畫了幾條線。
「現在分三個方向。第一個，把八個 ISPD 2006 benchmark 全部跑通，adaptec 系列四個，bigblue 系列四個。張明輝你之前的流式解析在 adaptec1 上驗證過了，適配 bigblue 系列的百萬級也該沒問題的。阿密特，繼續做約束翻譯全部八個 benchmark。」
阿密特點頭，在自己的小本本上又記了點什麼。
「第二個方向，訓練加速。拉傑，C2050 跑起來之後你有兩件事：一是把 DeepFlow 的前向和反向傳播在 Fermi 架構上做 kernel 級調優，二是在 placement 的強化學習訓練里實現多 GPU 並行探索。幾十個 agent 同時在同一個環境裡搜索不同策略，經驗共享。你在 NVIDIA 做的負載跟這個屬於同源，這塊是你主場。」
「那我們需要多一些硬體了，現在的硬體幾十個 agent 會排隊，效率會有點問題。」
陳一然說：「要多少塊你直接發郵件給凱薩琳。」
「第三個方向，現在只是 HPWL 線長優化，placement 遠不止這個。高德偉，你帶林志偉開始設計第二階段的 reward 函數。時序，擁塞，可布線性，這三個維度怎麼加權，怎麼跟線長做多目標優化。標準單元的 timing arc 數據，全局布線的 congestion map，macro 的 pin accessibility。全都得轉化成可微分的損失項，然後在 DeepFlow 里落地。」
高德偉在座位上擰開水杯喝了一口：「時序數據需要標準單元庫的 Liberty 格式。我們有 adaptec 的 LEF 但沒有 Liberty，得自己建模或者找人要。」
「先用簡化模型跑通流程，精確時序後面再補。ISPD 的 benchmark 本身也沒給完整時序庫，學術界做到 congestion 就是上限了。我們先把流程驗證了，精確的工藝數據可以事後跟晶片廠談合作時拿。」
高德偉想了一下之後，點點頭表示沒問題。
「行，今天就到這。我明天在家，有問題 MSN。」
回家的路上，陳一然一邊開車一邊和茉莉開始討論專利的事。
要不要像上次一樣開源，畢竟上次的編譯器他一直就是準備賣出的，這次可不一樣。
陳一然有點拿不住，乾脆選擇遇事不決，問問茉莉。
【我認為現在是開源最好的時機。】
「為什麼？」
【你上輩子看過一個視頻，B 站漫士沉思錄的，90 分鐘！清華博士帶你一口氣搞懂人工智慧和神經網絡。由於太枯燥太長，打開之後沒多久，你就去看電視了，F1 比賽，勒克萊爾拿了第四。
但是視頻一直在放，我在你的記憶中查到過聲音，提取出了信息，包括之後有自動播放了一些相關的視頻。雖然不是很細緻，但是也是我之前學習的靈感之一。只是因為你沒看到畫面有一些我無法很好的定義。
2010 年到 2013 年，三年時間，整個深度學習社區只有 Theano 和 Torch 兩個選擇。Torch 用 Lua 寫的，Python 開發者不愛用。Theano 編譯一次計算圖要等很久。DeepFlow 的增量計算引擎如果放出去，跟 Theano 比，不是快幾倍的問題，是根本不在一個賽道上。
而從商業的角度來說，我們更需要開源，MIT 協議是最優解。我們的框架是無比先進的，其他公司不得不使用我們的框架，他們沒辦法躲避我們的框架。我們可以讓 deepflow 框架成為行業標準，就好比谷歌那樣收取各種其他費用。】
「好吧，那就開源 deepflow 框架。」
【對，專利保護的是發明的思路，不管代碼開不開源，只要你的算法思路鎖住了，別人就繞不過去。MIT 協議開源框架代碼反而加速傳播，用到的人越多，發現 placement 引擎閉源的人越多，上來敲門的人就越多。
我們只是開源 deepflow 框架，而且還是 MIT 協議，FlowEDA 工具鏈又不開源。
Placement 優化模型，Routing 優化模型，時序分析模型，增量計算框架 EDA 定製版，EDA 格式解析器，工藝參數庫，模型權重，Synopsys/Cadence 數據橋接這些通通可以收錢。】
「茉莉你好黑心啊。」
【我是基於你的大腦模型工作的 agent，我具有和你一樣的人類特性。】
「行行行，知道了，我心黑行了吧。」
吵不過茉莉的陳一然到了家，就給TED打了電話，又得給人家貢獻工時了。
這年頭美國移民局根本沒有實時的推送系統，只能每天去 USCIS 官網輸入那個長達 13 位的收據編號查詢最新狀態。
什麼時候從 Case Received 收到案件變成 Card Production Ordered 開始制卡。
就證明小卡片已經開始製作了，然後再等個一兩周就能拿到了。
這也取決於運氣，美國政府的效率懂得都懂。
陳一然的大通銀行的金卡，黃銅合金打造，表面鍍了一層真正的鈀金和 23K 黃金，重量達到 28.35 克。手工雕刻了他的名字，以及他要求的皮蛋他爹的字樣。
只用了 3 天，就送到手了。
但是綠卡呢，一張塑料材質卡片，慢的話居然要做一個多星期，甚至用 USPS 美國郵政的平郵寄過來。
不過卡沒過來，信卻先到了。
周一，陳一然照例睡到中午才起床，先看到的就是門口的燈光提示，趕緊去看了電腦信息，顯示之前有人在家門口逗留。
車子和人員倒不是陌生人，都在安全資料庫里出現過，是負責這片區域的車輛和郵遞員，所以就沒有響警報。
去郵箱翻出來信件一看，普通的白色大號信封，帶有鷹徽水印。
寄件人：U.S. Department of Homeland Security, U.S. Citizenship and Immigration Services，也就是美國國土安全部美國公民及移民服務局。
陳一然知道了，這是他的歡迎信。
打開一看果然是的，bla bla bla 恭喜！你的 I-485 已獲批。你現在是美國合法永久居民了。bla bla bla 你的實體綠卡將在 30 天內寄達。有效期 10 年。bla bla bla 由於勾選了辦理社安號，SSA 會在 2 周內寄出無工作限制的 SSN 卡。
一堆 bla bla bla 的廢話中，就三句是有點營養的話。
煩人的還有，就算拿到綠卡，買槍也很麻煩，加州一直是全美控槍最嚴的州之一，一直執行 10 天強制等待期。在槍店交完申請表、按完手印的那一刻算起，會連續累加 240 個小時。據說這算是個冷靜期，避免有些人衝動買槍去報復別人。
期間政府也會調查購買人有沒有出現在聯邦的國家即時犯罪背景調查系統和加州的司法部系統里，有時甚至會查有沒有嚴重的交通違章或精神病史。
攻擊手段還很匱乏，不過好在周日，防禦措施到了車庫。
G55 AMG B7。黑色啞光漆面，比標準 G55 重了將近一噸，但外觀上幾乎看不出任何改裝痕跡。全是隱形裝甲，所有防彈層都藏在原廠面板下面，裝甲鋼門板，車窗玻璃有五厘米厚，從外面看是深色貼膜，從裡面看跟普通玻璃一樣通透。
雪佛蘭 Suburban 2500 HD B7，看著更有政府用車的味道。陳一然看到之後就想到了美國隊長 2 裡面的劇情，那輛車關鍵時刻可算是掉了鏈子，不過中間安一挺機槍好像挺帶感的。
公司也傳來好消息，周末自己運行兩天之後，情況比大家想的好很多。
周天佑和拉傑一起調了 CUDA 的內存分配策略，把 batch size 從 64 翻到了 128，顯卡利用率從百分之四十幾飆到了百分之八十多。
之後的幾天，情況越來越理想。
周二早上的截圖已經能看到一條完整的下降曲線。
周三，adaptec1，HPWL 1.08，已經穩定了十二小時了。
陳一然不得不在周四提前去了趟公司，白板上這次貼了一張對比表格。
adaptec1 二十萬個 cell，三行數據：
隨機 baseline：HPWL = ISPD 最優解 × 2.3
模擬退火：× 1.18
強化學習：× 1.08
高德偉站在白板前面，笑著說：「這還沒上全benchmark，adaptec1 只是最小的一個。如果能在大案例上復現這個差距的話。」
陳一然把高德偉推走，自己站在白板前面，讓茉莉把表格上的數據全部掃了一遍。
【沒有任何異常。曲線收斂，loss 分布，reward 函數的權重分配，全是合理的。數據是乾淨的，強化學習策略沒有過擬合，模型泛化能力還需要更多 benchmark 驗證，但至少在小規模上，方向沒錯。】
陳一然和茉莉討論了幾句，在白板上畫了幾條線。
「現在分三個方向。第一個，把八個 ISPD 2006 benchmark 全部跑通，adaptec 系列四個，bigblue 系列四個。張明輝你之前的流式解析在 adaptec1 上驗證過了，適配 bigblue 系列的百萬級也該沒問題的。阿密特，繼續做約束翻譯全部八個 benchmark。」
阿密特點頭，在自己的小本本上又記了點什麼。
「第二個方向，訓練加速。拉傑，C2050 跑起來之後你有兩件事：一是把 DeepFlow 的前向和反向傳播在 Fermi 架構上做 kernel 級調優，二是在 placement 的強化學習訓練里實現多 GPU 並行探索。幾十個 agent 同時在同一個環境裡搜索不同策略，經驗共享。你在 NVIDIA 做的負載跟這個屬於同源，這塊是你主場。」
「那我們需要多一些硬體了，現在的硬體幾十個 agent 會排隊，效率會有點問題。」
陳一然說：「要多少塊你直接發郵件給凱薩琳。」
「第三個方向，現在只是 HPWL 線長優化，placement 遠不止這個。高德偉，你帶林志偉開始設計第二階段的 reward 函數。時序，擁塞，可布線性，這三個維度怎麼加權，怎麼跟線長做多目標優化。標準單元的 timing arc 數據，全局布線的 congestion map，macro 的 pin accessibility。全都得轉化成可微分的損失項，然後在 DeepFlow 里落地。」
高德偉在座位上擰開水杯喝了一口：「時序數據需要標準單元庫的 Liberty 格式。我們有 adaptec 的 LEF 但沒有 Liberty，得自己建模或者找人要。」
「先用簡化模型跑通流程，精確時序後面再補。ISPD 的 benchmark 本身也沒給完整時序庫，學術界做到 congestion 就是上限了。我們先把流程驗證了，精確的工藝數據可以事後跟晶片廠談合作時拿。」
高德偉想了一下之後，點點頭表示沒問題。
「行，今天就到這。我明天在家，有問題 MSN。」
回家的路上，陳一然一邊開車一邊和茉莉開始討論專利的事。
要不要像上次一樣開源，畢竟上次的編譯器他一直就是準備賣出的，這次可不一樣。
陳一然有點拿不住，乾脆選擇遇事不決，問問茉莉。
【我認為現在是開源最好的時機。】
「為什麼？」
【你上輩子看過一個視頻，B 站漫士沉思錄的，90 分鐘！清華博士帶你一口氣搞懂人工智慧和神經網絡。由於太枯燥太長，打開之後沒多久，你就去看電視了，F1 比賽，勒克萊爾拿了第四。
但是視頻一直在放，我在你的記憶中查到過聲音，提取出了信息，包括之後有自動播放了一些相關的視頻。雖然不是很細緻，但是也是我之前學習的靈感之一。只是因為你沒看到畫面有一些我無法很好的定義。
2010 年到 2013 年，三年時間，整個深度學習社區只有 Theano 和 Torch 兩個選擇。Torch 用 Lua 寫的，Python 開發者不愛用。Theano 編譯一次計算圖要等很久。DeepFlow 的增量計算引擎如果放出去，跟 Theano 比，不是快幾倍的問題，是根本不在一個賽道上。
而從商業的角度來說，我們更需要開源，MIT 協議是最優解。我們的框架是無比先進的，其他公司不得不使用我們的框架，他們沒辦法躲避我們的框架。我們可以讓 deepflow 框架成為行業標準，就好比谷歌那樣收取各種其他費用。】
「好吧，那就開源 deepflow 框架。」
【對，專利保護的是發明的思路，不管代碼開不開源，只要你的算法思路鎖住了，別人就繞不過去。MIT 協議開源框架代碼反而加速傳播，用到的人越多，發現 placement 引擎閉源的人越多，上來敲門的人就越多。
我們只是開源 deepflow 框架，而且還是 MIT 協議，FlowEDA 工具鏈又不開源。
Placement 優化模型，Routing 優化模型，時序分析模型，增量計算框架 EDA 定製版，EDA 格式解析器，工藝參數庫，模型權重，Synopsys/Cadence 數據橋接這些通通可以收錢。】
「茉莉你好黑心啊。」
【我是基於你的大腦模型工作的 agent，我具有和你一樣的人類特性。】
「行行行，知道了，我心黑行了吧。」
吵不過茉莉的陳一然到了家，就給TED打了電話，又得給人家貢獻工時了。