第154章 如大日般的狂徒
聽到明珀的話，沈亦奇卻並沒有因此而生氣或是沉思。
他甚至沒有絲毫動搖與遲疑。
就仿佛早就猜到了明珀會怎麼回答一樣。
「我明白你的顧慮。」
沈亦奇認真地點了點頭：「確實會有你說的這種可能一一機器與人工智慧或許沒有錯，但製造、訓練、控制、維護它們的人類，卻有可能居心叵測、或是能力不足。
「那如果，你也加入其中呢？如果你信不過我，你能信得過你自己嗎？」
「不，也不能。」
明珀身體微微後傾，靠坐在柔軟的沙發上，毫不猶豫地答道：「我連我自己也信不過。
「沈先生，你聽過理查；加特林嗎？」
「……加特林的發明者？」
「對，那位醫學博士。」
明珀緩緩說道：「他最初發明加特林機槍，就是因為在戰場上見到了太多傷亡，並受到了刺激。他意識到光靠自己的力量，怎麼也救不過來所有人……於是，他為了能讓一個士兵發揮一百個士兵的力量，就發明了加特林機槍。
「他想，如果有這種更有效率的武器，那就可以減少戰場傷亡了。因為那樣的話，戰爭就不再需要那麼多士兵了。如果戰場上的士兵數量減少，戰爭就會結束得更快，也就等同於減少死傷。
「可然後呢？」
明珀譏諷般地攤了攤手：「難道士兵的數量減少了嗎？
「並非是因為殺戮效率提升，所以就不再需要那麼多的士兵來殺戮對方；而是因為殺戮效率提升，所以反而需要更多的士兵才能抵抗對方的殺戮。你所要發明的那種「替代人們工作』的機器，說不定反而會讓人們被壓榨得更狠呢。
「而且，你又要如何篩選一個人的才能？」
明珀反問道：「總有一些人是在人生的半途才覺悟了自己的才能。並非所有的才能都是「被發現』，還有一些是後天才育成的，還有一些才能根本不屬於當前的時代一一如果他們被過早地拋棄、停止了培養，那等他們的時代到了之後，他們又該如何才能逃脫自己被鉗制的命運呢？
「假如你能發現，連他們自己都發現不了的秘密……那就說明，你已經徹底操控了他們全部的情報。你是要洞察他們的心靈、審判他們的思想嗎？」
明珀絲毫沒有客氣。
在莊延讚賞的目光，與沈亦奇無比嚴肅的注視中，明珀微微擡起手來，如同一位教父般給予審判。就仿佛被面試的人並非是明珀，而是沈亦奇一樣。
「你說的這些……」
沈亦奇沉默了一會，才開口：「它們都是可以被解決的問題，不是嗎？
「無論是「有人設計的程序裡面埋設了漏洞』、「AI的疊代完全失控』，還是「律法與篩選功能的不完善』，都是可以被他們反饋、被我們修改的啊。本來一個程序出來就不可能是完全體。」
「我們這樣假設，明珀先生一我們就假設，我們有一種能夠穿越時空的能力。
「我們在今天共同創造出了這樣的系統。而我們日後如果發現了它偏離了最初設計的方向……它失控了！或者它出現了巨大的設計漏洞，又或者它被某人利用，亦或是AI覺醒成了「天網』之類的統治者……「那麼我們就重新回到這一個時刻，重新修改代碼一你應該看過終結者，對吧？」
「嗯，我看過。」
明珀淡淡地說道：「但我覺得，你不是在做天網。你是在做西比拉系統。」
聞言，沈亦奇臉上露出笑容，那是遇到同好的愉快表情：「心理測量者嗎？我也看過……但我認為，西比拉系統並不是錯的。更何況，真正做這種事的另有其人。」
「你認為；……西比拉系統沒有錯嗎？」
明珀微微坐直了身體，皺起眉頭。
「西比拉系統」一那是名為《心理測量者》的作品中出現的概念。
可以簡單理解為，它是一種虛構的社會管理系統。能夠判斷出對方的心理狀態、內心深處的願望、職業適應性……以及犯罪指數。
當有人的「犯罪指數」達到臨界值時，就意味著他正在計劃或已經在實施犯罪。那麼甚至在他進行犯罪之前，就可以將其提前逮捕，以此來最大程度地減少其他市民的損失。
「我認為那是好的。」
沈亦奇雙手放在膝蓋上，坦然道：「《心理測量者》裡面出現的問題，難道不都是因為西比拉系統本身有漏洞、有BUG或者被人利用嗎？
「但它確實有效降低了犯罪，提升了絕大多數好市民的體驗，那就說明它是有意義的。在動畫裡它所出的問題，其實是因為它的能力仍然不足一一能被人騙過，這就說明它還不夠完善、還不夠好。它的權力被竊取，行政系統也仍然僵滯。
「就像是你所說的……我也不認為加特林博士是錯的。
「他唯一的錯誤，就在於他還不夠強。加特林確實提升了戰爭效率，但它並沒有量變引發質變……」核彈。
沈亦奇的口中，緩緩吐出了這個詞。
他的眼中，閃耀著太陽般狂熱的光。
「核武器的威力，確實制約了戰爭的形式，從而大幅降低了傷亡。正因如此，我們才不能畏手畏腳，不是嗎？」
沈亦奇如同演講家一樣，言語中充滿感染力：「我們就是要一步到位！跨越時代的桎梏！打破舊時代的一切枷鎖！」
「律法！道德！常識！本能一一新時代已至，未來已至。所有抵抗人類踏入新時代的力量，都是舊時代的遺民。
「你不覺得，在人類能觸摸到星星的時代，人類還在地上內鬥是一件非常愚蠢而沒有效率的事嗎？「我們要做就要做得足夠徹底！一口氣摧毀現存的「工作』、「娛樂』、「教育』、「繁衍』觀念，就像是創造出核彈般威懾整個世界！
「你說，如果看漏了人才怎麼辦？」
沈亦奇笑容滿面，眼中閃耀著不可視的逼人威光：「這個問題非常好！
「我認為這有三個方面。第一，這仍然意味著我們的能力與技術有欠缺。社會是一個混沌系統，人的命運更是。但如果能窮盡人類基因，徹底解析社會性，那人的才能就是可控的。
「如果那「不像是人』，也是人類的下一個階段。
「第二，這意味著我們仍然還缺少人才。但是，AI可以自我疊代。技術也可以。我們不光是要發展機械……機器人僅僅只是一種工具，而不是最終目的。它們是我們的奴僕，是「劣等人類的替代」……而定製的基因工程，可以讓優等的人類更進一步，變成更偉大的人。
「第三」
他說到這裡，停頓了一瞬。
那璀璨的笑容，有那麼一瞬間變得如大日般無情。
「如果被忽視的、被錯過的人才數量不多，那忽視、錯過他們也沒有什麼問題。只要被這個系統挖掘出來的新人才，其數量能大大壓過錯過的人才，那依然是社會的總效率的大大提升，不是嗎？」那一瞬間，明珀意識到了一件事。
一這傢伙恐怕是認真的。
他甚至沒有絲毫動搖與遲疑。
就仿佛早就猜到了明珀會怎麼回答一樣。
「我明白你的顧慮。」
沈亦奇認真地點了點頭：「確實會有你說的這種可能一一機器與人工智慧或許沒有錯，但製造、訓練、控制、維護它們的人類，卻有可能居心叵測、或是能力不足。
「那如果，你也加入其中呢？如果你信不過我，你能信得過你自己嗎？」
「不，也不能。」
明珀身體微微後傾，靠坐在柔軟的沙發上，毫不猶豫地答道：「我連我自己也信不過。
「沈先生，你聽過理查；加特林嗎？」
「……加特林的發明者？」
「對，那位醫學博士。」
明珀緩緩說道：「他最初發明加特林機槍，就是因為在戰場上見到了太多傷亡，並受到了刺激。他意識到光靠自己的力量，怎麼也救不過來所有人……於是，他為了能讓一個士兵發揮一百個士兵的力量，就發明了加特林機槍。
「他想，如果有這種更有效率的武器，那就可以減少戰場傷亡了。因為那樣的話，戰爭就不再需要那麼多士兵了。如果戰場上的士兵數量減少，戰爭就會結束得更快，也就等同於減少死傷。
「可然後呢？」
明珀譏諷般地攤了攤手：「難道士兵的數量減少了嗎？
「並非是因為殺戮效率提升，所以就不再需要那麼多的士兵來殺戮對方；而是因為殺戮效率提升，所以反而需要更多的士兵才能抵抗對方的殺戮。你所要發明的那種「替代人們工作』的機器，說不定反而會讓人們被壓榨得更狠呢。
「而且，你又要如何篩選一個人的才能？」
明珀反問道：「總有一些人是在人生的半途才覺悟了自己的才能。並非所有的才能都是「被發現』，還有一些是後天才育成的，還有一些才能根本不屬於當前的時代一一如果他們被過早地拋棄、停止了培養，那等他們的時代到了之後，他們又該如何才能逃脫自己被鉗制的命運呢？
「假如你能發現，連他們自己都發現不了的秘密……那就說明，你已經徹底操控了他們全部的情報。你是要洞察他們的心靈、審判他們的思想嗎？」
明珀絲毫沒有客氣。
在莊延讚賞的目光，與沈亦奇無比嚴肅的注視中，明珀微微擡起手來，如同一位教父般給予審判。就仿佛被面試的人並非是明珀，而是沈亦奇一樣。
「你說的這些……」
沈亦奇沉默了一會，才開口：「它們都是可以被解決的問題，不是嗎？
「無論是「有人設計的程序裡面埋設了漏洞』、「AI的疊代完全失控』，還是「律法與篩選功能的不完善』，都是可以被他們反饋、被我們修改的啊。本來一個程序出來就不可能是完全體。」
「我們這樣假設，明珀先生一我們就假設，我們有一種能夠穿越時空的能力。
「我們在今天共同創造出了這樣的系統。而我們日後如果發現了它偏離了最初設計的方向……它失控了！或者它出現了巨大的設計漏洞，又或者它被某人利用，亦或是AI覺醒成了「天網』之類的統治者……「那麼我們就重新回到這一個時刻，重新修改代碼一你應該看過終結者，對吧？」
「嗯，我看過。」
明珀淡淡地說道：「但我覺得，你不是在做天網。你是在做西比拉系統。」
聞言，沈亦奇臉上露出笑容，那是遇到同好的愉快表情：「心理測量者嗎？我也看過……但我認為，西比拉系統並不是錯的。更何況，真正做這種事的另有其人。」
「你認為；……西比拉系統沒有錯嗎？」
明珀微微坐直了身體，皺起眉頭。
「西比拉系統」一那是名為《心理測量者》的作品中出現的概念。
可以簡單理解為，它是一種虛構的社會管理系統。能夠判斷出對方的心理狀態、內心深處的願望、職業適應性……以及犯罪指數。
當有人的「犯罪指數」達到臨界值時，就意味著他正在計劃或已經在實施犯罪。那麼甚至在他進行犯罪之前，就可以將其提前逮捕，以此來最大程度地減少其他市民的損失。
「我認為那是好的。」
沈亦奇雙手放在膝蓋上，坦然道：「《心理測量者》裡面出現的問題，難道不都是因為西比拉系統本身有漏洞、有BUG或者被人利用嗎？
「但它確實有效降低了犯罪，提升了絕大多數好市民的體驗，那就說明它是有意義的。在動畫裡它所出的問題，其實是因為它的能力仍然不足一一能被人騙過，這就說明它還不夠完善、還不夠好。它的權力被竊取，行政系統也仍然僵滯。
「就像是你所說的……我也不認為加特林博士是錯的。
「他唯一的錯誤，就在於他還不夠強。加特林確實提升了戰爭效率，但它並沒有量變引發質變……」核彈。
沈亦奇的口中，緩緩吐出了這個詞。
他的眼中，閃耀著太陽般狂熱的光。
「核武器的威力，確實制約了戰爭的形式，從而大幅降低了傷亡。正因如此，我們才不能畏手畏腳，不是嗎？」
沈亦奇如同演講家一樣，言語中充滿感染力：「我們就是要一步到位！跨越時代的桎梏！打破舊時代的一切枷鎖！」
「律法！道德！常識！本能一一新時代已至，未來已至。所有抵抗人類踏入新時代的力量，都是舊時代的遺民。
「你不覺得，在人類能觸摸到星星的時代，人類還在地上內鬥是一件非常愚蠢而沒有效率的事嗎？「我們要做就要做得足夠徹底！一口氣摧毀現存的「工作』、「娛樂』、「教育』、「繁衍』觀念，就像是創造出核彈般威懾整個世界！
「你說，如果看漏了人才怎麼辦？」
沈亦奇笑容滿面，眼中閃耀著不可視的逼人威光：「這個問題非常好！
「我認為這有三個方面。第一，這仍然意味著我們的能力與技術有欠缺。社會是一個混沌系統，人的命運更是。但如果能窮盡人類基因，徹底解析社會性，那人的才能就是可控的。
「如果那「不像是人』，也是人類的下一個階段。
「第二，這意味著我們仍然還缺少人才。但是，AI可以自我疊代。技術也可以。我們不光是要發展機械……機器人僅僅只是一種工具，而不是最終目的。它們是我們的奴僕，是「劣等人類的替代」……而定製的基因工程，可以讓優等的人類更進一步，變成更偉大的人。
「第三」
他說到這裡，停頓了一瞬。
那璀璨的笑容，有那麼一瞬間變得如大日般無情。
「如果被忽視的、被錯過的人才數量不多，那忽視、錯過他們也沒有什麼問題。只要被這個系統挖掘出來的新人才，其數量能大大壓過錯過的人才，那依然是社會的總效率的大大提升，不是嗎？」那一瞬間，明珀意識到了一件事。
一這傢伙恐怕是認真的。