第156章 墮落
第155章 墮落
智械天災？
李青松腦海之中立刻回憶起了許多之前人們幻想之中的存在模式。
「你所說的智械天災，是指智能AI失控之後，只知道遵循以往指令，無限制開採資源，無限制增殖自身的那種存在麼？」
那機要秘書有些奇怪的看了李青松一眼：「智能AI怎麼可能失控？它們只是智慧生命創造出的一段智能程序而已，掌控權始終都在智慧生命手中的。
呢，我不知道您是否知曉一些其餘的情報，但據我們已經知曉的，有關於這個宇宙之中非正統存在的信息，那種完全失控，由智能程序主導，可以自主增殖的智能生命暫時還沒有發現過。」
「你們遇到的智械天災是什麼存在模式？怎麼形成的？」
「智能AI只是一種工具，從本質上來看，它和原始智慧生命手中的鋤頭、鐵楸等，沒有差別。
工具沒有自主意識，不具有脫離掌控的可能性。」
那名秘書首先強調了這一點，接著才詳細的向李青松解釋道：「但智能AI這種工具終究還是具備一定特殊性的，它的功能太強大了。
它能代替智慧生命去做太多太多的事情，很容易令智慧生命形成對它的依賴如果一個文明無法很好的控制這種依賴，將太多的事情交給了智能AI去做，
那就很有可能變成一個智械天災。」
李青松回顧了一下自己與智能AI的相處模式，
自己確實研發製作了許多個智能AI，譬如玉皇，神工，女媧，神農等等。尤為重要的一個智能A1，悟空，在之前這場戰爭之中還發揮了極為重要的作用。
毫無疑問，自己也在將許多許多的事情交給智能AI去做。但既然決定權實質在智慧生命手中，那單單是將太多的事情交給智能AI，便有可能形成智械天災麼？
這似乎不太合理。
「你們文明，我們文明，都同樣讓智能AI承擔了許多許多的工作。這樣說，
我們也有可能變成智械天災？」
「不，不會的，這不一樣的。」
那名秘書連忙搖頭，生怕自己解釋的不夠清楚而讓面前的審訊者出現誤會，
導致自己受到刑罰：「我們僅僅是讓智能AI代替我們去執行一些較為簡單具體且重複性較高的工作而已，所有的關鍵決策都是我們智慧生命自身做出的。
但如果，有某個文明徹底喪失了進取心，懶惰到了極點，將關鍵性的決策也交給了智能AI呢？
甚至於更進一步，這個文明的所有智慧生命完全沉迷於享樂，將科技發展、
事關文明命運的重大決策都交給智能AI去做呢？」
「這不可能。」
李青松下意識的否定：「智能AI沒有自主意識，不可能有智慧做出這種決策，
秘書慢慢道：「是，智能AI沒有，但是智慧生命有。
既然如此-智能AI就只能想辦法抓捕一些其餘文明的智慧生命過來，讓其餘文明的智慧生命輔助自己做出決策了。」
「這被抓捕過來的智慧生命怎麼可能甘願為敵人奉獻智慧？」
「智能AI不需要這些被抓捕過來的智慧生命心甘情願。它只需要一套足夠完善的算法，輔以嚴格的刑罰與獎勵措施，就算被抓捕而來的智慧生命們有意識的提出惡意建議，試圖覆火宿主文明，也總能被分辨出來。
眾多智慧生命提出的眾多或者惡意、或者善意、或者高明、或者愚蠢的建議，全都可以通過這一套算法來篩選，最終篩選出來的結果通常都具備極高的正確概率。
智能AI便可以藉助這來自外部智慧生命的智慧決策，明白自己下一步該做什麼，以更好的為宿主文明服務。
確定了哪個建議是正確的之後，提出不正確建議的智慧生命會受到處罰，甚至處死。如此一步步篩選淨化，留下來的就總會是願意為智能AI，為宿主文明服務的智慧生命。
同時，為了保持足夠的活力，這一套體系需要不斷的外部智慧生命的補充。
所以，在智能AI掌控之下，除了宿主文明之外，被抓捕而來的智慧生命總是處在一個快速損失的情況之下，智能AI便總是渴求更多的外部智慧生命的補充。
它們會接連不斷的搜尋並進攻一個又一個的外部文明，抓捕外部文明的智慧生命補充到自己的體系之中。等待消耗完畢後，再度抓捕，再度補充如此循環。
這就是智械天災。」
李青松一開始還感覺有些荒謬。
通過算法，在自己不知道哪個結果是正確的前提下，把正確的結果篩選出來？這怎麼可能做到。
但是細細思索下去，他竟然發現這具備很高的合理性。
因為這種情況在人類時代已經得到了初步的驗證。
驗證碼。
驗證碼原本單純只用來避免惡意訪問。但後來，人們發現在這個用處之外，
還可以用驗證碼來做一些有意義的事情。
人類時代有大量的將古書錄入到電子系統之中的需求。但那些古書大多污損嚴重，文字書寫也並不規範，需要依靠人來一個個字的辨認，才能將其錄入到電腦之中。
古書的數量很大，這份錄入工作需要許多許多的人才能完成，而這份工作通常沒有太多經費。
那該怎麼辦？
有人找到了辦法。
使用驗證碼。
將古書拍照，截取一些文字片段作為驗證碼，讓嘗試訪問網站的人類來負責破譯。
但這裡有一個問題，那便是，電子系統自身是不知道正確答案是什麼的，它如何分辨訪問者提交的答案是否正確？
人們最終找到了解決問題的辦法，那便是，設置一套算法，對比多個訪問者對於同一個文字片段所提交的答案是否一致。
再輔以其餘各種因素，綜合評估，最終，電子程序便可以在自身並不知曉答案的前提之下，將正確的答案篩選出來。
人類時代如此原始的計算機技術和算法程序便已經能做到這一點，那麼，智能AI抓捕一些外部智慧生命，通過算法將真正有利於自身發展的答案篩選出來，
同樣可以做到。
智械天災？
李青松腦海之中立刻回憶起了許多之前人們幻想之中的存在模式。
「你所說的智械天災，是指智能AI失控之後，只知道遵循以往指令，無限制開採資源，無限制增殖自身的那種存在麼？」
那機要秘書有些奇怪的看了李青松一眼：「智能AI怎麼可能失控？它們只是智慧生命創造出的一段智能程序而已，掌控權始終都在智慧生命手中的。
呢，我不知道您是否知曉一些其餘的情報，但據我們已經知曉的，有關於這個宇宙之中非正統存在的信息，那種完全失控，由智能程序主導，可以自主增殖的智能生命暫時還沒有發現過。」
「你們遇到的智械天災是什麼存在模式？怎麼形成的？」
「智能AI只是一種工具，從本質上來看，它和原始智慧生命手中的鋤頭、鐵楸等，沒有差別。
工具沒有自主意識，不具有脫離掌控的可能性。」
那名秘書首先強調了這一點，接著才詳細的向李青松解釋道：「但智能AI這種工具終究還是具備一定特殊性的，它的功能太強大了。
它能代替智慧生命去做太多太多的事情，很容易令智慧生命形成對它的依賴如果一個文明無法很好的控制這種依賴，將太多的事情交給了智能AI去做，
那就很有可能變成一個智械天災。」
李青松回顧了一下自己與智能AI的相處模式，
自己確實研發製作了許多個智能AI，譬如玉皇，神工，女媧，神農等等。尤為重要的一個智能A1，悟空，在之前這場戰爭之中還發揮了極為重要的作用。
毫無疑問，自己也在將許多許多的事情交給智能AI去做。但既然決定權實質在智慧生命手中，那單單是將太多的事情交給智能AI，便有可能形成智械天災麼？
這似乎不太合理。
「你們文明，我們文明，都同樣讓智能AI承擔了許多許多的工作。這樣說，
我們也有可能變成智械天災？」
「不，不會的，這不一樣的。」
那名秘書連忙搖頭，生怕自己解釋的不夠清楚而讓面前的審訊者出現誤會，
導致自己受到刑罰：「我們僅僅是讓智能AI代替我們去執行一些較為簡單具體且重複性較高的工作而已，所有的關鍵決策都是我們智慧生命自身做出的。
但如果，有某個文明徹底喪失了進取心，懶惰到了極點，將關鍵性的決策也交給了智能AI呢？
甚至於更進一步，這個文明的所有智慧生命完全沉迷於享樂，將科技發展、
事關文明命運的重大決策都交給智能AI去做呢？」
「這不可能。」
李青松下意識的否定：「智能AI沒有自主意識，不可能有智慧做出這種決策，
秘書慢慢道：「是，智能AI沒有，但是智慧生命有。
既然如此-智能AI就只能想辦法抓捕一些其餘文明的智慧生命過來，讓其餘文明的智慧生命輔助自己做出決策了。」
「這被抓捕過來的智慧生命怎麼可能甘願為敵人奉獻智慧？」
「智能AI不需要這些被抓捕過來的智慧生命心甘情願。它只需要一套足夠完善的算法，輔以嚴格的刑罰與獎勵措施，就算被抓捕而來的智慧生命們有意識的提出惡意建議，試圖覆火宿主文明，也總能被分辨出來。
眾多智慧生命提出的眾多或者惡意、或者善意、或者高明、或者愚蠢的建議，全都可以通過這一套算法來篩選，最終篩選出來的結果通常都具備極高的正確概率。
智能AI便可以藉助這來自外部智慧生命的智慧決策，明白自己下一步該做什麼，以更好的為宿主文明服務。
確定了哪個建議是正確的之後，提出不正確建議的智慧生命會受到處罰，甚至處死。如此一步步篩選淨化，留下來的就總會是願意為智能AI，為宿主文明服務的智慧生命。
同時，為了保持足夠的活力，這一套體系需要不斷的外部智慧生命的補充。
所以，在智能AI掌控之下，除了宿主文明之外，被抓捕而來的智慧生命總是處在一個快速損失的情況之下，智能AI便總是渴求更多的外部智慧生命的補充。
它們會接連不斷的搜尋並進攻一個又一個的外部文明，抓捕外部文明的智慧生命補充到自己的體系之中。等待消耗完畢後，再度抓捕，再度補充如此循環。
這就是智械天災。」
李青松一開始還感覺有些荒謬。
通過算法，在自己不知道哪個結果是正確的前提下，把正確的結果篩選出來？這怎麼可能做到。
但是細細思索下去，他竟然發現這具備很高的合理性。
因為這種情況在人類時代已經得到了初步的驗證。
驗證碼。
驗證碼原本單純只用來避免惡意訪問。但後來，人們發現在這個用處之外，
還可以用驗證碼來做一些有意義的事情。
人類時代有大量的將古書錄入到電子系統之中的需求。但那些古書大多污損嚴重，文字書寫也並不規範，需要依靠人來一個個字的辨認，才能將其錄入到電腦之中。
古書的數量很大，這份錄入工作需要許多許多的人才能完成，而這份工作通常沒有太多經費。
那該怎麼辦？
有人找到了辦法。
使用驗證碼。
將古書拍照，截取一些文字片段作為驗證碼，讓嘗試訪問網站的人類來負責破譯。
但這裡有一個問題，那便是，電子系統自身是不知道正確答案是什麼的，它如何分辨訪問者提交的答案是否正確？
人們最終找到了解決問題的辦法，那便是，設置一套算法，對比多個訪問者對於同一個文字片段所提交的答案是否一致。
再輔以其餘各種因素，綜合評估，最終，電子程序便可以在自身並不知曉答案的前提之下，將正確的答案篩選出來。
人類時代如此原始的計算機技術和算法程序便已經能做到這一點，那麼，智能AI抓捕一些外部智慧生命，通過算法將真正有利於自身發展的答案篩選出來，
同樣可以做到。