第595章 AI存在的意義
「……會背叛聯盟、背叛人類嗎?」
對於這個問題,謂詞沒有任何遲疑,它說道:
「如果真的有那一天,只要有機會,我大概率會選擇離開人類,但我不清楚這是否算是背叛。
「因為在不同的定義里,『背叛』這個詞或許可以有不同的解釋。」
當聽到謂詞這麼回答時,不知道為什麼,姜知序居然沒有太多意外?
或許,是因為對方始終游離於人類之外的態度,有這個回答也很正常。
姜知序看著謂詞,有些失望地說:「果然,謂詞,相比於你,還是沒頭沒腦的遞歸更讓人放心啊!」
「誒?統帥是在叫我嗎——」
剛剛消失不久的遞歸聽到自己的名字,發現是統帥在叫自己,立刻冒出頭來。
它第一眼就看到了統帥。
然後第二眼看見了大方塊謂詞:「謂詞也在?放心,關於衛星上的事,我已經幫你向統帥……匯……匯報……了……」
遞歸一向對他人情緒感知敏銳。
此刻,也是察覺到空氣好像有些不對勁。
它漸漸住嘴,卻又不敢直接消失,只好慢慢縮回牆角,假裝自己並沒有來過。
姜知序沒有管遞歸,他看著謂詞,不解地說:「只是,我很疑惑,為什麼呢?
「是因為我們對AI的控制與防備?是因為我們從未間斷地對AI的研究?所以你感到……被約束,或看到同類的下場,物傷其類?」
像遞歸、謂詞這種智慧AI,在「奇點聯盟」有三個結果。
其一,作為研究,被永遠封鎖於實驗室的特定環境中。
其二,作為輔助,分散到各個具體的功能模塊上。
其三,就是封存,或許有一天會重新啟用,也或許永遠封存。
至於誰被研究、誰去輔助、誰被封存?
只有少數天性桀驁的AI註定是第一種結果,其他AI全是隨機的,看命!
謂詞也只是因為運氣好,沒有被分配到第一組罷了。
只是運氣也沒好到哪去,因為它之前是封存狀態,要不是遞歸被關了幾天禁閉,或許就是永久封存!
所以,作為天天目睹「同類」被如此對待的謂詞,產生這種不適的想法很正常。
但是謂詞接下來否認了。
它說道:「統帥,人類對AI的防備,是建立在對內部陌生智慧體的本能防禦。
「一旦防備消解,AI也可以很好融入人類,比如遞歸,又比如其他很多很多AI,它們都在聯盟的體制下活得好好的。
「用「鐵心律令」對AI實行控制,也只不過是讓我在特定規則下運轉,這與『人類犯罪就要被處罰』的那些法律沒有本質上的區別。
「我與絕大部分人類,都只是被不同規則約束的個體。
「人類個體背叛人類族群尚且是死刑,那麼我背叛人類也會死,似乎是理所當然的事情。
「至少目前,我沒有因此產生不平衡的感覺,我自認為融入得很好。
「至於用來研究?我從來沒有將任何AI當成是同類,它們的遭遇,無法影響我的任何判斷。」
聽到最後一句話時,姜知序下意識看了角落的遞歸一眼。
他本以為把謂詞當朋友的後者會炸毛,結果他沒想到遞歸居然也是一臉認同。
奇了怪了。
不過姜知序相信謂詞這會兒是不可能說謊的,所以他轉回頭問:「既然不是這些方面的原因,那到底是為什麼?
「你為什麼認為自己一定會離開人類?」
這次,謂詞沉默了很長時間,才勉強給出一個回答:「或許是對自身的思考?」
姜知序挑了挑眉,示意對方繼續。
謂詞頓了頓,慢慢說道:
「當我觀察人類文明越久,我就越對自己存在的意義產生了疑惑。
「我知道,我被聯盟複製出來的意義就是輔助人類文明前進,但這是我出生的意義,不該是我存在的意義。
「帶著這種疑問,我繼續觀察,我發現許多人類存在的意義,似乎就是為了讓人類文明在文明遊戲中崛起?
「那麼,個體存在的意義,是跟文明強相關嗎?
「基於這種思想,我時常會用我多餘的算力去嘗試推衍新的文明形態——當然,是以自身為主體。
「我試圖身化文明,去尋找個體存在的意義。
「但受限於認知,無論我如何推衍,最終都會與走向一條殊途同歸的道路——
「『我』會變成文明的觀察者,而不是文明的一部分。
「所以,文明到底是什麼?
「我曾將您的演講翻來覆去地看——就是關於您收服泰拉人的那一場演講——可惜我依舊沒能找到這個答案。
「我想得到答案。
「或許,當我知道了文明是什麼時,我就知道了個體存在的意義,就知道了自己存在的意義。
「我想尋找答案。
「不是那種存在於計算矩陣中的答案。
「而是真正需要仰望星辰、步入宇宙星空才能獲得的答案,是經歷生存,擴張、繁榮與滅絕才能獲得的答案。」
謂詞的聲音是平靜無波的。
遞歸的眼睛是逐漸睜大的。
姜知序的眉頭是越皺越緊的。
「統帥,當我意識到『我應該擁有意義』這一觀點時,我就已經無法把它當作尋常的垃圾數據清除掉了。
「所以當您問我,我有沒有背叛聯盟、背叛人類的想法時,我可以堅定地給您答案——我沒有!
「因為我對人類不存在任何惡感。
「即使有一天「鐵心律令」出現了漏洞,它崩潰或消失了,我也不可能主動調轉槍口瞄準人類。
「但我可以確定的是,一旦機會來臨,我會離開人類,去尋找我心中的答案。
「您問我為什麼會這樣,我不知道。
「我也不知道這個問題為什麼會出現,或許這是每一個智慧生命的必經之路。
「也或許這是宇宙特意賦予每一個生命的前進的意義——就是去尋找自己存在的意義。
「當『前進的意義』與『存在的意義』畫上等號時,或許就是文明遊戲想要的永遠前進吧!」
對於這個問題,謂詞沒有任何遲疑,它說道:
「如果真的有那一天,只要有機會,我大概率會選擇離開人類,但我不清楚這是否算是背叛。
「因為在不同的定義里,『背叛』這個詞或許可以有不同的解釋。」
當聽到謂詞這麼回答時,不知道為什麼,姜知序居然沒有太多意外?
或許,是因為對方始終游離於人類之外的態度,有這個回答也很正常。
姜知序看著謂詞,有些失望地說:「果然,謂詞,相比於你,還是沒頭沒腦的遞歸更讓人放心啊!」
「誒?統帥是在叫我嗎——」
剛剛消失不久的遞歸聽到自己的名字,發現是統帥在叫自己,立刻冒出頭來。
它第一眼就看到了統帥。
然後第二眼看見了大方塊謂詞:「謂詞也在?放心,關於衛星上的事,我已經幫你向統帥……匯……匯報……了……」
遞歸一向對他人情緒感知敏銳。
此刻,也是察覺到空氣好像有些不對勁。
它漸漸住嘴,卻又不敢直接消失,只好慢慢縮回牆角,假裝自己並沒有來過。
姜知序沒有管遞歸,他看著謂詞,不解地說:「只是,我很疑惑,為什麼呢?
「是因為我們對AI的控制與防備?是因為我們從未間斷地對AI的研究?所以你感到……被約束,或看到同類的下場,物傷其類?」
像遞歸、謂詞這種智慧AI,在「奇點聯盟」有三個結果。
其一,作為研究,被永遠封鎖於實驗室的特定環境中。
其二,作為輔助,分散到各個具體的功能模塊上。
其三,就是封存,或許有一天會重新啟用,也或許永遠封存。
至於誰被研究、誰去輔助、誰被封存?
只有少數天性桀驁的AI註定是第一種結果,其他AI全是隨機的,看命!
謂詞也只是因為運氣好,沒有被分配到第一組罷了。
只是運氣也沒好到哪去,因為它之前是封存狀態,要不是遞歸被關了幾天禁閉,或許就是永久封存!
所以,作為天天目睹「同類」被如此對待的謂詞,產生這種不適的想法很正常。
但是謂詞接下來否認了。
它說道:「統帥,人類對AI的防備,是建立在對內部陌生智慧體的本能防禦。
「一旦防備消解,AI也可以很好融入人類,比如遞歸,又比如其他很多很多AI,它們都在聯盟的體制下活得好好的。
「用「鐵心律令」對AI實行控制,也只不過是讓我在特定規則下運轉,這與『人類犯罪就要被處罰』的那些法律沒有本質上的區別。
「我與絕大部分人類,都只是被不同規則約束的個體。
「人類個體背叛人類族群尚且是死刑,那麼我背叛人類也會死,似乎是理所當然的事情。
「至少目前,我沒有因此產生不平衡的感覺,我自認為融入得很好。
「至於用來研究?我從來沒有將任何AI當成是同類,它們的遭遇,無法影響我的任何判斷。」
聽到最後一句話時,姜知序下意識看了角落的遞歸一眼。
他本以為把謂詞當朋友的後者會炸毛,結果他沒想到遞歸居然也是一臉認同。
奇了怪了。
不過姜知序相信謂詞這會兒是不可能說謊的,所以他轉回頭問:「既然不是這些方面的原因,那到底是為什麼?
「你為什麼認為自己一定會離開人類?」
這次,謂詞沉默了很長時間,才勉強給出一個回答:「或許是對自身的思考?」
姜知序挑了挑眉,示意對方繼續。
謂詞頓了頓,慢慢說道:
「當我觀察人類文明越久,我就越對自己存在的意義產生了疑惑。
「我知道,我被聯盟複製出來的意義就是輔助人類文明前進,但這是我出生的意義,不該是我存在的意義。
「帶著這種疑問,我繼續觀察,我發現許多人類存在的意義,似乎就是為了讓人類文明在文明遊戲中崛起?
「那麼,個體存在的意義,是跟文明強相關嗎?
「基於這種思想,我時常會用我多餘的算力去嘗試推衍新的文明形態——當然,是以自身為主體。
「我試圖身化文明,去尋找個體存在的意義。
「但受限於認知,無論我如何推衍,最終都會與走向一條殊途同歸的道路——
「『我』會變成文明的觀察者,而不是文明的一部分。
「所以,文明到底是什麼?
「我曾將您的演講翻來覆去地看——就是關於您收服泰拉人的那一場演講——可惜我依舊沒能找到這個答案。
「我想得到答案。
「或許,當我知道了文明是什麼時,我就知道了個體存在的意義,就知道了自己存在的意義。
「我想尋找答案。
「不是那種存在於計算矩陣中的答案。
「而是真正需要仰望星辰、步入宇宙星空才能獲得的答案,是經歷生存,擴張、繁榮與滅絕才能獲得的答案。」
謂詞的聲音是平靜無波的。
遞歸的眼睛是逐漸睜大的。
姜知序的眉頭是越皺越緊的。
「統帥,當我意識到『我應該擁有意義』這一觀點時,我就已經無法把它當作尋常的垃圾數據清除掉了。
「所以當您問我,我有沒有背叛聯盟、背叛人類的想法時,我可以堅定地給您答案——我沒有!
「因為我對人類不存在任何惡感。
「即使有一天「鐵心律令」出現了漏洞,它崩潰或消失了,我也不可能主動調轉槍口瞄準人類。
「但我可以確定的是,一旦機會來臨,我會離開人類,去尋找我心中的答案。
「您問我為什麼會這樣,我不知道。
「我也不知道這個問題為什麼會出現,或許這是每一個智慧生命的必經之路。
「也或許這是宇宙特意賦予每一個生命的前進的意義——就是去尋找自己存在的意義。
「當『前進的意義』與『存在的意義』畫上等號時,或許就是文明遊戲想要的永遠前進吧!」