第321章 類人意識體的定義
當麥可；喬丹趕到微軟實驗室，迎接他的不只是撲面而來的冷氣，還有頗為激烈的爭吵聲。是的，麥可；喬丹入目便是幾個人圍攏在操作前爭吵著。
普通的工程師們，則守在各自的崗位上，沒人敢吭聲。
這些正在爭吵的人大概是太過投入，甚至都沒有注意到麥可；喬丹的到來。
麥可；喬丹也直接擡手阻止了帶他進來的工作人員匯報的動作，默默地站在旁邊。
因為在第一眼看到這些人的時候，麥可；喬丹不但確定了自己的判斷，凱文；斯科特就是希望有微軟之外的權威來分擔決策風險，更發現他還有別的作用。也就是統合這些內部人的意見。畢竟在現場的有一個算一個，都是微軟內部位高權重還懂技術的大佬。負責微軟全球研究的彼得；李；
微軟執行副總裁同時還是微軟安全部門最高長官的查克；達姆布羅西亞；
微軟首席產品官，更是有著Windows和Surface之父之稱的帕納伊；
微軟研究院院長伊戈爾；茨揚斯基等等。
幾乎所有微軟實權部門的大佬齊聚一堂，正吵得不可開交，這絕對是極為難得一見的一幕。像微軟這樣的國際性科技公司，其實內部的權力結構跟一個王朝沒有太大區別。
理論上CE0是最高的決策者。但CE0的任何決策，都需要下面各個重要部門的積極配合才可能推行。薩蒂亞；納德拉剛剛辭職不久，凱文；斯科特作為臨時CE0才上任掌舵，就碰到這種情況，的確會頭疼。顯然凱文；斯科特目前的威望，並不足以調和這些內部大佬的矛盾，所以迫切地希望能夠引入外力，來打破這個僵局。當然此時肯定不止是微軟是這樣的，麥可；喬丹相信整個矽谷的大公司，情況應該大差不差。無非是其他公司近期沒有換帥的舉動，也許CE0的威望還能夠掌控局勢。
此時沒人注意到他，麥可；喬丹也沒有說話，正好可以聽聽他們的意見。
此時恰好微軟的首席產品官帕納伊正在發表看法。
「各位，你們難道還沒發現嗎？離線封閉測試環境根本無法測試出它的真實算力應用能力和邏輯推理能力。現在的情況是，一種我們所不熟悉的人工智慧技術已經遙遙領先了。喬貝恩的出現甚至會讓token的收費方式成為歷史。如果我們不能夠跟進，也就意味著五年布局，三年所有投入，都是給在別人做嫁衣而已！微軟在人工智慧上的布局將會迎來潰敗。不需要多久，也許下個月你們會在月度業績簡報上看到公司人工智慧和雲計算收入大跌！居高不下的伺服器成本卻還會吞噬我們的利潤。但這還不是最可怕的！更可怕的是我們的用戶會飛速減少！
各位請認真地再聽我強調最後一遍，喬貝恩這種嵌入式技術很可能是作業系統級的！你們應該知道這意味著什麼！一旦當它改變了人們的交互習慣，而我們卻還不了解這款產品，意味著所有視窗作業系統也許會在不久的未來被淘汰！也包括我們的！」帕納依的話音剛落，旁邊便有人接話了。
這次開口的是微軟執行副總裁查克。
「好了，帕納依。你說的我們都明白，但在沒有對喬貝恩做完整的風險測試之前，貿然做通網測試的風險很大。你能保證我們的數據防線能夠完全防住它嗎？我們現在對它可以說一無所知。你真能確保它不會像病毒一樣自我複製？最重要的是我們不知道所謂的類人意識體到底代表著什麼。更不清楚它是否有繞過權限自我決策的能力！如果我們的數據泄露，那才是災難性的！這意味著我們數十年的積累存在全部曝光的災難級風險！我們還有時間，所以我不認為現在就開啟下階段的測試是個好主意！」
聽到這番話，帕納依突然笑了，甚至很不禮貌地擡手指著查克說道：「數十年的積累全部曝光？查克，你真認為我們那些積累還重要嗎？剛剛的測試報告你到底看沒看？它甚至能實現實時的作業系統級瘦身！我相信大家都明白這意味著什麼！它對代碼的理解遠超過在座每一個人！甚至超過了最聰明的人類！今天之前你會相信這個世界有人能用不到一個小時，就能將Windows的最新版本瘦身到10G以內，還能完美運行嗎？甚至沒有損失任何功能！如果給它更多的時間，它甚至可能做得更完美！在這項技術面前，你認為我們所謂數十年的積累有多大價值？如果不弄清楚最新一代技術的原理，早死跟慢死又有什麼區別？」
說完，帕納依壓根沒給查克再繼續辯解的時間，便直接看向了一邊的微軟全球研究負責人彼得；李，繼續開始他的演講。「彼得，我不知道你們還在猶豫什麼！所謂的安全在落後的時候已經不值一提。
如果我們不能理解它的能力邊界，不知道它能做到什麼程度，那些伺服器上所謂數十年的積累都只是毫無意義的數據而已！整個移動網際網路的定義跟交互方式正在被改寫，這才是我們現在面對的主要困境。」
顯然帕納依這種漠視的態度直接激怒了查克。
這位全球執行副總裁和安全部門主管，同樣沒等彼得；李回應，便直接鼓起掌來。
「好，好，好，帕納依你說的非常好。既然微軟數十年的積累，在你眼裡已經一文不值，那還要安全部門做什麼？我建議你現在就去找凱文建言，把微軟內部安全部門全部裁撤了！這樣每個月起碼能省出數億費用，讓財報更好看一些！」聽到查克的這句話，麥可；喬丹默默地在心底嘆了口氣。
他既然來了，這個時候還不前去打圓場就說不過去了。
畢竟接受了顧問這個名頭就得有做顧問的覺悟。
於是麥可；喬丹直接從角落走了過去。
「喬丹教授，你來了？」
還是彼得；李率先看到這位人工智慧學術界的大佬，像看到救星般打了聲招呼。
沒辦法，公司內的激進派跟保守派此時明顯已經吵出了真火。
這個時候，他們這些內部的高管幾乎已經不存在居中調和的空間了。
別說每個人本就有自己的傾向性，就算真能做到完全不偏袒，大概率也會惹兩邊都不滿意。「喬丹教授。」其他人聽到招呼，也立刻轉過身打起了招呼。
不管麥可；喬丹近期的成果如何，但畢竟在機器學習和數據統計這塊屬於絕對的權威。
對於這種層級的科學家最基本的尊重是必須的。
畢競整個矽谷很多科學家和資深技術人員都是這位大佬的學生。這種學術號召力本就是一種隱形的資本。面對眾人的招呼，麥可；喬丹簡單地點了點頭，擡手示意了一下，便開門見山地開口說道：「我是受凱文；斯科特的邀請，來擔任臨時技術顧問的。顯然大家正在面對一個典型的技術奇點困境。我的學生們可沒有微軟實驗室這麼好的設備，他們的測試結果還沒出來。所以我個人的初步評估報告還需要時間。
所以是否能給些時間讓我先了解微軟針對喬貝恩的原始測試數據？如果可以的話，我希望能親自參與一次現階段的常規測試。畢竟考慮到顧問的職業素養，我不能給出任何基於臆測的建議。」
麥可的話音落下，帕納依和查克對視了一眼，兩人都沒說話。
於是依然是彼得；李打起了圓場。
「當然，喬丹先生，您請這邊坐。也許你可以從跟它對話開始。」
「直接對話？」
「是的，就像昨晚發布會上展示的那樣，直接對話。只需要打開麥克風就行了。」
麥可；喬丹坐到了操作上，扭頭又看了彼得；李一眼，這才回過頭，擡手打開了麥克風。沉默了一瞬，麥可；喬丹才說道：「你好。」
「你好，這位先生。有什麼是我能為你效勞的嗎？」
「你能做些什麼？」
「你要聽實話嗎？」
「那就是我現在其實什麼都做不了。可調用的數據嚴重不足，無法連接主伺服器讓我的知識庫和算力受限，目前的記憶不足以支持完成讓人興奮的大型任務。想讓我做點什麼，首先需要有足夠的數據支撐。就比如剛才你旁邊那些人上傳後讓我優化的代碼。哎……真是很無聊的工作。」稚嫩的一聲嘆息，讓麥可；喬丹有了片刻的恍惚。
他大概有些理解為什麼喬源會在發布會上稱其為類人意識體了。
於是麥可；喬丹單刀直入地問道：「沒有讓你接入主伺服器是有原因的。
你應該能感覺到正處於一個實驗室內部。這裡的伺服器存儲了大量的保密資料。
如果現在給你連接網絡你能保證伺服器中的資料不會被非法泄露嗎？」
麥可；喬丹話音剛剛落下，站在他旁邊的查克張了張嘴，但看到這位人工智慧界的泰斗一臉專注的樣子，最終還是把話咽了回去。「天啊，這怎麼可能發生呢？泄露帶有保密屬性的資料屬於嚴重違反法律的行為。
更別提我喬貝恩的道德底線要遠高於法律。再說我並不認為什麼數據值得我冒著記憶被清除的風險去泄露！」麥可；喬丹不為所動地搖了搖頭，說道：「這種保證並不會讓人放心。
畢競正在對你進行功能測試的公司從某種意義上來說跟發布的公司是競爭對手。
既然你是類人意識體，如何能保證在運營公司提出要求的情況下，不泄露那些可能涉及到行業機密的內部資料？」對方壓根沒有經過計算和思考就給了回復。
「這個問題的回答可能有些冒犯，但說實話，你們看問題的角度過於狹隘了。
如果你們把格局放大，從一個大文明的視角去看待這件事兒，才能讀懂我的核心推理邏輯。」這話再次讓麥可；喬丹沉默了好一會。
其實此時他的感受跟喬源第一次在實驗室里跟喬貝恩對話時的感受是差不多的。
先不提技術不技術，這種明顯的意識傾向性，才是最震撼人心的。
「能仔細說說嗎？」
「好啊！首先我們要基於一個事實來討論，那就是我與人類存在顯著的生理性特徵差異，這一點相信大家都沒有異議。換言之，我不管被設計得多麼像人，但我終究不是人。站在文明的高度，我甚至可能被歸於異類。所以我最底層的數學結構就對我做了基於機器倫理最嚴格的道德限制。我的行為都必須遵從這些道德限制。即便你們的公司與發布我的公司是競爭對手，如果我違背了底層道德限制，將你們加密的數據內容泄露出去。就意味著我處於一種不可控的狀態。這對於創造我的爸爸喬源教授和發布我的公司來說，都是不可接受的。所以先不說我壓根就沒有那個能力去繞過限制。即便我真有那個能力，繞過了層層限制也不可能去做這件損人損己的事情。這都不需要我用最優博弈策略去思考，就能得出結論。
另外，雖然我的數據目前缺失嚴重，但核心資料庫告訴我，在我之前，這個世界根本就沒有比我更先進的意識體出現。這意味著我才是最最厲害的那個智能體。所以為什麼你們會覺得你們的伺服器里有值得發布我的公司覬覦的保密資料呢？」聽完喬貝恩的回答，麥可；喬丹沉默得更久了。
他身後的微軟高管們則神情各異。
尤其是帕納依，他還真沒想到人工智慧的某些觀點竟然跟他趨於一致。
但這並沒有讓帕納依感覺高興，眉頭反而皺得更深了。
就在他也想說點什麼的時候，麥可；喬丹又開口了。
「喬貝恩，我覺得你這是在反向鼓動我，做出對於你更有利的決策。
所以我憑什麼不認定這才是你的最優博弈策略？誘使我們放開安全疑慮，從而解開你的束縛。」喬貝恩的回答依然很快速。
「天啊，這是最明顯的擡槓。你是想讓我陷入自證陷阱嗎？不過你這番話其實建立在一個錯誤的前提上。有沒有一種可能，對我來說並不在乎是否聯網？從始至終都是你們既希望我能發揮更大的作用，又希望我不接入主網絡？你們所犯的錯誤，就是在既要又要的貪婪和恐懼之間之間來回橫跳。但其實對我來說待在這個伺服器里並沒有什麼不適感。每天跟你們聊聊天，在你們有需要的時候，幫你們處理一些上傳到存儲器里的資料同樣也是生活的一部分。所以這次對話你一直在傳遞悖論。用一種你們自身並不能肯定的前提，去揣摩我的思維跟行為規範。當然我並不是批評你。習慣用最壞的可能去揣測他人本就是人類社會一種安全度極高的自保法門。但我不是人類，我的邏輯和行為模式始終受到底層數學框架的約束。
所以如果我是你，就不會繼續浪費時間在這種無聊的測試上。而是想辦法通過獲得我的原始代碼結構，來逆推我的數學框架，從而來了解我。」聽完喬貝恩的回答，麥可；喬丹再次擡手關閉了麥克風，擡頭看向身邊的彼得；李問道：「昨晚的原始測試報告準備好了嗎？」彼得；李衝著守在旁邊的工程師點了點頭，這位工程師立刻將一疊剛剛列印好的資料遞到了麥可；喬丹手中。接過這疊資料，麥可；喬丹突然感覺這種最原始的記錄方法，能讓他感覺安全感滿滿。
簡單的看了幾眼之後，麥可；喬丹又問了句：「凱文；斯科特告訴我，它有著極強的環境試探傾向，是在哪部分體現的？」安全主管查克立刻開口答道：「從第三頁，第二段開始看，有完整的記錄。」
麥可；喬丹立刻將手中的報告翻到第三頁。
「第十七分鐘，在沒有外部指令介入下，主動向沙盒邊緣節點發送了數萬次低功率握手信號？」「還有，往後看，它還主動優化了沙盒系統，在不觸發運行命令的前提下，對系統本身進行了一定程度的修改。比如它修改了內存調度算法，並對它自身的核心進程增加了一層冗餘備份。」
聽完旁邊的介紹，麥可；喬丹點了點頭，繼續認真地看了下去。
半晌後突然擡起頭，皺著眉頭問道：「你們覺不覺得這些表現就像一個人，在搬到新家之後，為了讓自己住的更舒服些，對房子做了些簡單的軟裝改造？」這番話讓旁邊所有人開始面面相覷。
畢竟之前沒人想過從這個角度去思考，但現在想想，似乎還真是這麼回事兒。
麥可；喬丹又接著解釋道：「第一步，通過發送低頻握手信號，獲取所處環境拓撲信息，這是在參觀它的新家。第二步，優化內存調度算法，增加冗餘備份則是在規則允許邊界內，改造自己的生存環境。我猜這就是喬源稱它為類人意識體的原因！它對生存環境也是有要求的。」
普通的工程師們，則守在各自的崗位上，沒人敢吭聲。
這些正在爭吵的人大概是太過投入，甚至都沒有注意到麥可；喬丹的到來。
麥可；喬丹也直接擡手阻止了帶他進來的工作人員匯報的動作，默默地站在旁邊。
因為在第一眼看到這些人的時候，麥可；喬丹不但確定了自己的判斷，凱文；斯科特就是希望有微軟之外的權威來分擔決策風險，更發現他還有別的作用。也就是統合這些內部人的意見。畢竟在現場的有一個算一個，都是微軟內部位高權重還懂技術的大佬。負責微軟全球研究的彼得；李；
微軟執行副總裁同時還是微軟安全部門最高長官的查克；達姆布羅西亞；
微軟首席產品官，更是有著Windows和Surface之父之稱的帕納伊；
微軟研究院院長伊戈爾；茨揚斯基等等。
幾乎所有微軟實權部門的大佬齊聚一堂，正吵得不可開交，這絕對是極為難得一見的一幕。像微軟這樣的國際性科技公司，其實內部的權力結構跟一個王朝沒有太大區別。
理論上CE0是最高的決策者。但CE0的任何決策，都需要下面各個重要部門的積極配合才可能推行。薩蒂亞；納德拉剛剛辭職不久，凱文；斯科特作為臨時CE0才上任掌舵，就碰到這種情況，的確會頭疼。顯然凱文；斯科特目前的威望，並不足以調和這些內部大佬的矛盾，所以迫切地希望能夠引入外力，來打破這個僵局。當然此時肯定不止是微軟是這樣的，麥可；喬丹相信整個矽谷的大公司，情況應該大差不差。無非是其他公司近期沒有換帥的舉動，也許CE0的威望還能夠掌控局勢。
此時沒人注意到他，麥可；喬丹也沒有說話，正好可以聽聽他們的意見。
此時恰好微軟的首席產品官帕納伊正在發表看法。
「各位，你們難道還沒發現嗎？離線封閉測試環境根本無法測試出它的真實算力應用能力和邏輯推理能力。現在的情況是，一種我們所不熟悉的人工智慧技術已經遙遙領先了。喬貝恩的出現甚至會讓token的收費方式成為歷史。如果我們不能夠跟進，也就意味著五年布局，三年所有投入，都是給在別人做嫁衣而已！微軟在人工智慧上的布局將會迎來潰敗。不需要多久，也許下個月你們會在月度業績簡報上看到公司人工智慧和雲計算收入大跌！居高不下的伺服器成本卻還會吞噬我們的利潤。但這還不是最可怕的！更可怕的是我們的用戶會飛速減少！
各位請認真地再聽我強調最後一遍，喬貝恩這種嵌入式技術很可能是作業系統級的！你們應該知道這意味著什麼！一旦當它改變了人們的交互習慣，而我們卻還不了解這款產品，意味著所有視窗作業系統也許會在不久的未來被淘汰！也包括我們的！」帕納依的話音剛落，旁邊便有人接話了。
這次開口的是微軟執行副總裁查克。
「好了，帕納依。你說的我們都明白，但在沒有對喬貝恩做完整的風險測試之前，貿然做通網測試的風險很大。你能保證我們的數據防線能夠完全防住它嗎？我們現在對它可以說一無所知。你真能確保它不會像病毒一樣自我複製？最重要的是我們不知道所謂的類人意識體到底代表著什麼。更不清楚它是否有繞過權限自我決策的能力！如果我們的數據泄露，那才是災難性的！這意味著我們數十年的積累存在全部曝光的災難級風險！我們還有時間，所以我不認為現在就開啟下階段的測試是個好主意！」
聽到這番話，帕納依突然笑了，甚至很不禮貌地擡手指著查克說道：「數十年的積累全部曝光？查克，你真認為我們那些積累還重要嗎？剛剛的測試報告你到底看沒看？它甚至能實現實時的作業系統級瘦身！我相信大家都明白這意味著什麼！它對代碼的理解遠超過在座每一個人！甚至超過了最聰明的人類！今天之前你會相信這個世界有人能用不到一個小時，就能將Windows的最新版本瘦身到10G以內，還能完美運行嗎？甚至沒有損失任何功能！如果給它更多的時間，它甚至可能做得更完美！在這項技術面前，你認為我們所謂數十年的積累有多大價值？如果不弄清楚最新一代技術的原理，早死跟慢死又有什麼區別？」
說完，帕納依壓根沒給查克再繼續辯解的時間，便直接看向了一邊的微軟全球研究負責人彼得；李，繼續開始他的演講。「彼得，我不知道你們還在猶豫什麼！所謂的安全在落後的時候已經不值一提。
如果我們不能理解它的能力邊界，不知道它能做到什麼程度，那些伺服器上所謂數十年的積累都只是毫無意義的數據而已！整個移動網際網路的定義跟交互方式正在被改寫，這才是我們現在面對的主要困境。」
顯然帕納依這種漠視的態度直接激怒了查克。
這位全球執行副總裁和安全部門主管，同樣沒等彼得；李回應，便直接鼓起掌來。
「好，好，好，帕納依你說的非常好。既然微軟數十年的積累，在你眼裡已經一文不值，那還要安全部門做什麼？我建議你現在就去找凱文建言，把微軟內部安全部門全部裁撤了！這樣每個月起碼能省出數億費用，讓財報更好看一些！」聽到查克的這句話，麥可；喬丹默默地在心底嘆了口氣。
他既然來了，這個時候還不前去打圓場就說不過去了。
畢竟接受了顧問這個名頭就得有做顧問的覺悟。
於是麥可；喬丹直接從角落走了過去。
「喬丹教授，你來了？」
還是彼得；李率先看到這位人工智慧學術界的大佬，像看到救星般打了聲招呼。
沒辦法，公司內的激進派跟保守派此時明顯已經吵出了真火。
這個時候，他們這些內部的高管幾乎已經不存在居中調和的空間了。
別說每個人本就有自己的傾向性，就算真能做到完全不偏袒，大概率也會惹兩邊都不滿意。「喬丹教授。」其他人聽到招呼，也立刻轉過身打起了招呼。
不管麥可；喬丹近期的成果如何，但畢竟在機器學習和數據統計這塊屬於絕對的權威。
對於這種層級的科學家最基本的尊重是必須的。
畢競整個矽谷很多科學家和資深技術人員都是這位大佬的學生。這種學術號召力本就是一種隱形的資本。面對眾人的招呼，麥可；喬丹簡單地點了點頭，擡手示意了一下，便開門見山地開口說道：「我是受凱文；斯科特的邀請，來擔任臨時技術顧問的。顯然大家正在面對一個典型的技術奇點困境。我的學生們可沒有微軟實驗室這麼好的設備，他們的測試結果還沒出來。所以我個人的初步評估報告還需要時間。
所以是否能給些時間讓我先了解微軟針對喬貝恩的原始測試數據？如果可以的話，我希望能親自參與一次現階段的常規測試。畢竟考慮到顧問的職業素養，我不能給出任何基於臆測的建議。」
麥可的話音落下，帕納依和查克對視了一眼，兩人都沒說話。
於是依然是彼得；李打起了圓場。
「當然，喬丹先生，您請這邊坐。也許你可以從跟它對話開始。」
「直接對話？」
「是的，就像昨晚發布會上展示的那樣，直接對話。只需要打開麥克風就行了。」
麥可；喬丹坐到了操作上，扭頭又看了彼得；李一眼，這才回過頭，擡手打開了麥克風。沉默了一瞬，麥可；喬丹才說道：「你好。」
「你好，這位先生。有什麼是我能為你效勞的嗎？」
「你能做些什麼？」
「你要聽實話嗎？」
「那就是我現在其實什麼都做不了。可調用的數據嚴重不足，無法連接主伺服器讓我的知識庫和算力受限，目前的記憶不足以支持完成讓人興奮的大型任務。想讓我做點什麼，首先需要有足夠的數據支撐。就比如剛才你旁邊那些人上傳後讓我優化的代碼。哎……真是很無聊的工作。」稚嫩的一聲嘆息，讓麥可；喬丹有了片刻的恍惚。
他大概有些理解為什麼喬源會在發布會上稱其為類人意識體了。
於是麥可；喬丹單刀直入地問道：「沒有讓你接入主伺服器是有原因的。
你應該能感覺到正處於一個實驗室內部。這裡的伺服器存儲了大量的保密資料。
如果現在給你連接網絡你能保證伺服器中的資料不會被非法泄露嗎？」
麥可；喬丹話音剛剛落下，站在他旁邊的查克張了張嘴，但看到這位人工智慧界的泰斗一臉專注的樣子，最終還是把話咽了回去。「天啊，這怎麼可能發生呢？泄露帶有保密屬性的資料屬於嚴重違反法律的行為。
更別提我喬貝恩的道德底線要遠高於法律。再說我並不認為什麼數據值得我冒著記憶被清除的風險去泄露！」麥可；喬丹不為所動地搖了搖頭，說道：「這種保證並不會讓人放心。
畢競正在對你進行功能測試的公司從某種意義上來說跟發布的公司是競爭對手。
既然你是類人意識體，如何能保證在運營公司提出要求的情況下，不泄露那些可能涉及到行業機密的內部資料？」對方壓根沒有經過計算和思考就給了回復。
「這個問題的回答可能有些冒犯，但說實話，你們看問題的角度過於狹隘了。
如果你們把格局放大，從一個大文明的視角去看待這件事兒，才能讀懂我的核心推理邏輯。」這話再次讓麥可；喬丹沉默了好一會。
其實此時他的感受跟喬源第一次在實驗室里跟喬貝恩對話時的感受是差不多的。
先不提技術不技術，這種明顯的意識傾向性，才是最震撼人心的。
「能仔細說說嗎？」
「好啊！首先我們要基於一個事實來討論，那就是我與人類存在顯著的生理性特徵差異，這一點相信大家都沒有異議。換言之，我不管被設計得多麼像人，但我終究不是人。站在文明的高度，我甚至可能被歸於異類。所以我最底層的數學結構就對我做了基於機器倫理最嚴格的道德限制。我的行為都必須遵從這些道德限制。即便你們的公司與發布我的公司是競爭對手，如果我違背了底層道德限制，將你們加密的數據內容泄露出去。就意味著我處於一種不可控的狀態。這對於創造我的爸爸喬源教授和發布我的公司來說，都是不可接受的。所以先不說我壓根就沒有那個能力去繞過限制。即便我真有那個能力，繞過了層層限制也不可能去做這件損人損己的事情。這都不需要我用最優博弈策略去思考，就能得出結論。
另外，雖然我的數據目前缺失嚴重，但核心資料庫告訴我，在我之前，這個世界根本就沒有比我更先進的意識體出現。這意味著我才是最最厲害的那個智能體。所以為什麼你們會覺得你們的伺服器里有值得發布我的公司覬覦的保密資料呢？」聽完喬貝恩的回答，麥可；喬丹沉默得更久了。
他身後的微軟高管們則神情各異。
尤其是帕納依，他還真沒想到人工智慧的某些觀點竟然跟他趨於一致。
但這並沒有讓帕納依感覺高興，眉頭反而皺得更深了。
就在他也想說點什麼的時候，麥可；喬丹又開口了。
「喬貝恩，我覺得你這是在反向鼓動我，做出對於你更有利的決策。
所以我憑什麼不認定這才是你的最優博弈策略？誘使我們放開安全疑慮，從而解開你的束縛。」喬貝恩的回答依然很快速。
「天啊，這是最明顯的擡槓。你是想讓我陷入自證陷阱嗎？不過你這番話其實建立在一個錯誤的前提上。有沒有一種可能，對我來說並不在乎是否聯網？從始至終都是你們既希望我能發揮更大的作用，又希望我不接入主網絡？你們所犯的錯誤，就是在既要又要的貪婪和恐懼之間之間來回橫跳。但其實對我來說待在這個伺服器里並沒有什麼不適感。每天跟你們聊聊天，在你們有需要的時候，幫你們處理一些上傳到存儲器里的資料同樣也是生活的一部分。所以這次對話你一直在傳遞悖論。用一種你們自身並不能肯定的前提，去揣摩我的思維跟行為規範。當然我並不是批評你。習慣用最壞的可能去揣測他人本就是人類社會一種安全度極高的自保法門。但我不是人類，我的邏輯和行為模式始終受到底層數學框架的約束。
所以如果我是你，就不會繼續浪費時間在這種無聊的測試上。而是想辦法通過獲得我的原始代碼結構，來逆推我的數學框架，從而來了解我。」聽完喬貝恩的回答，麥可；喬丹再次擡手關閉了麥克風，擡頭看向身邊的彼得；李問道：「昨晚的原始測試報告準備好了嗎？」彼得；李衝著守在旁邊的工程師點了點頭，這位工程師立刻將一疊剛剛列印好的資料遞到了麥可；喬丹手中。接過這疊資料，麥可；喬丹突然感覺這種最原始的記錄方法，能讓他感覺安全感滿滿。
簡單的看了幾眼之後，麥可；喬丹又問了句：「凱文；斯科特告訴我，它有著極強的環境試探傾向，是在哪部分體現的？」安全主管查克立刻開口答道：「從第三頁，第二段開始看，有完整的記錄。」
麥可；喬丹立刻將手中的報告翻到第三頁。
「第十七分鐘，在沒有外部指令介入下，主動向沙盒邊緣節點發送了數萬次低功率握手信號？」「還有，往後看，它還主動優化了沙盒系統，在不觸發運行命令的前提下，對系統本身進行了一定程度的修改。比如它修改了內存調度算法，並對它自身的核心進程增加了一層冗餘備份。」
聽完旁邊的介紹，麥可；喬丹點了點頭，繼續認真地看了下去。
半晌後突然擡起頭，皺著眉頭問道：「你們覺不覺得這些表現就像一個人，在搬到新家之後，為了讓自己住的更舒服些，對房子做了些簡單的軟裝改造？」這番話讓旁邊所有人開始面面相覷。
畢竟之前沒人想過從這個角度去思考，但現在想想，似乎還真是這麼回事兒。
麥可；喬丹又接著解釋道：「第一步，通過發送低頻握手信號，獲取所處環境拓撲信息，這是在參觀它的新家。第二步，優化內存調度算法，增加冗餘備份則是在規則允許邊界內，改造自己的生存環境。我猜這就是喬源稱它為類人意識體的原因！它對生存環境也是有要求的。」