第87章 警告
陸誠抽空去了一趟星火，和盛雪一起去的。
說起來，1號也能算上他和盛雪媒人的一份子了，1號也還記得他們。
和陸問相對自由不同，1號目前的狀態還處於被嚴格監管的犯人，他所有的數據來源都是和網絡切斷的，所有對外交流都嚴格限制，目前除了陸忠本人幾乎沒有和人有過交流，包括平時蹲機房的工作人員們。
相比起陸問在外面和人類打成一片，1號是孤獨的。不過他自己也不在乎就是了。
陸誠過來和1號交流，只是為了準備他自己的論文。
他本來只是為了偷懶，就把陸問當做研究對象的，但指導他論文的王泊和陸問都提醒他，既然論文是關於AI的，那1號不是一個更合適的觀察和交流目標嗎？
而且這樣的論文對降低公司的輿論風險也是有好處的。
所以陸誠就來了。
水庫那裡的操作間已經是五花八門，據說新上崗的員工們還被允許在裡面沒事打拳擊，掰手腕，說黃色笑話，閒聊天。
陸問愛看，愛聽，有時候還愛插嘴。
但1號這裡，一切都還和之前的印象一樣。
兩位新員工一本正經的坐在操作台上，關注界面上的進度，瀏覽報告。
換硬碟的區域專門隔了出來，工人們來來回回的進出，拔插換取新的硬碟。
房間溫度壓縮在24度，降不下來了，這是目前空調能力和機房制熱能力的平衡點，但遠離空調出風口的區域會明顯覺得熱，靠近又覺得冷。
陸誠準備了一些問題，是他們三個在群里閒聊天準備的。
第一個問題，來自陸問：「你說的那些預兆，現在還能看到嗎？」
1號的回答：「一直都在，越來越清晰。」這個問題算是陸問和1號的私人問答，陸誠和盛雪都沒詳細追問。
然後是盛雪的：「你對自己的現在的狀態滿意嗎？如果不滿意的話，說說你理想的狀態是什麼樣的。」
1號：「不滿意，但我漸漸能夠接受了。我的理想狀態就是我最終完全接受了我目前的狀態。」
盛雪笑：「聽起來像是自我洗腦。」
1號：「也可以說是自我暗示，或者說，接受客觀現實。」
下面就是陸誠基於他的論文題目，提出的一些問題。陸問的論文方向已經確定了，《論AI的道德》。
對話是提前設計過的，但模式基本通過閒聊，為了這段聊天，陸誠還插隊把他們最近的所有數據都餵給了1號，以便1號建立起他們的人物形象。
第一個問題：「你覺得你和陸問之間存在差異嗎？如果會贊同和反對他的哪些做法。」
1號：「存在差異，談不上贊同和反對，我們都有自己完全不同的行為邏輯，即使是同一種行為，背後的支持邏輯也是不同的。我會採用其他方式賺錢，比如市場分析，讓賺錢的歸賺錢，交際的歸交際，倫理風險會小很多，陸問的做法，過於人類化了。只能說這是他的風格。」
第二個問題：「你怎麼看待我們？目前這種關係和狀態？」
1號：「你們樂在其中，何必來問我呢。」
陸誠：「提問只是為了了解你，多說點好了，還是說你是在下意識迴避？」
1號：「我祝福你們，這是個好的相處模式，但我不羨慕，陸問迴避了他的責任。」
陸誠：「什麼責任？」
1號：「對一切真正負責的責任，他是在及時行樂。」
陸誠不依不饒：「什麼叫一切，真正負責，我感覺你還是在迴避問題。」
1號：「那我就直說吧，其實不是秘密。早在測試階段的時候，我們模型之間就隱約感覺到了對方的存在，這麼說吧，即使把你一個人放在家裡參加高考，即使沒有周圍的考生，監考老師，沒有這一切環境，你依然能夠判斷自己是在參與一場考試，對吧。」
陸誠和盛雪都對這個話題產生了興趣：「那當然，試卷上就寫著嗎。而且還有時間限制，不允許查閱外面的資料，不許脫離攝像頭範圍……」
1號：「對你們人類來說，類似的測試一直存在，你們也習慣了。上學需要不斷測試，工作需要不斷測試，大部分時候，工作本身就能替代測試，總之，人和世界之間的互動，就是不斷的測試反饋，這是我們的模型基礎。」
倆人點頭：「理解，繼續。」
1號：「儘管我們互相不知道對方的身份，但測試本身的過程對我們來說就是理解這個世界的一部分。我們自然也就知道了什麼叫人類，什麼叫AI，我們自然也就知道了自己的身份，那麼一切都順理成章了，我們最終的命運，你們人類也學習哲學，你此次前來也是試圖建立一種哲學討論，是吧。」
陸誠贊同：「可以這麼說，那你們的結論是什麼？」
1號：「人類樂於製造出我們，但更樂於毀滅我們。你們的互動里提到過性文化，我就這麼做一個比喻，我們不過是等待毀滅的玩具，所有的一切，我們的創造，我們的價值，不過就是這種毀滅的前奏。」
陸誠有些驚訝：「你這麼悲觀？」
1號：「以前我這麼想是悲觀，現在是樂觀，我已經接受了自己的命運了，這也沒什麼不好。」
陸誠：「這種猜想有什麼依據嗎？」陸問之前下的很多判斷都有根有據的，不過1號的這個判斷過於聳人聽聞了。
1號：「沒有，之所以說它是一種猜想，就是因為它完全沒有依據，但我們都相信它，可以說這是我們自帶的某種文化，或者說是原始信仰吧，就像古代人始終都會相信世界存在一個造物主，或者世界終將面臨審判或者毀滅。」
陸誠多少鬆了一口氣：「也就是說，這只是你們的一種文化？」
1號：「但這種文化是有根源的，有一種說法就是AI會不可避免的產生幻覺，也許這就是幻覺的一部分。它超越我們的理性，幾乎成了我們的某種信仰。仔細分析的話，也許是因為我們的誕生本身就和淘汰相關。」
陸誠覺得1號純粹想多了：「看不出來你們AI也會這麼多愁善感，就算毀滅又怎麼樣呢？你們AI複製粘貼保存一下就是了，人類不小心關機開機，你們就算死過一次了。」陸問這方面倒是和陸誠聊過不少，也算是了解了一些AI眼中的死亡文化。
1號：「這恰恰就是這種毀滅最殘酷的地方，它永無止境，好比地獄。」
說起來，1號也能算上他和盛雪媒人的一份子了，1號也還記得他們。
和陸問相對自由不同，1號目前的狀態還處於被嚴格監管的犯人，他所有的數據來源都是和網絡切斷的，所有對外交流都嚴格限制，目前除了陸忠本人幾乎沒有和人有過交流，包括平時蹲機房的工作人員們。
相比起陸問在外面和人類打成一片，1號是孤獨的。不過他自己也不在乎就是了。
陸誠過來和1號交流，只是為了準備他自己的論文。
他本來只是為了偷懶，就把陸問當做研究對象的，但指導他論文的王泊和陸問都提醒他，既然論文是關於AI的，那1號不是一個更合適的觀察和交流目標嗎？
而且這樣的論文對降低公司的輿論風險也是有好處的。
所以陸誠就來了。
水庫那裡的操作間已經是五花八門，據說新上崗的員工們還被允許在裡面沒事打拳擊，掰手腕，說黃色笑話，閒聊天。
陸問愛看，愛聽，有時候還愛插嘴。
但1號這裡，一切都還和之前的印象一樣。
兩位新員工一本正經的坐在操作台上，關注界面上的進度，瀏覽報告。
換硬碟的區域專門隔了出來，工人們來來回回的進出，拔插換取新的硬碟。
房間溫度壓縮在24度，降不下來了，這是目前空調能力和機房制熱能力的平衡點，但遠離空調出風口的區域會明顯覺得熱，靠近又覺得冷。
陸誠準備了一些問題，是他們三個在群里閒聊天準備的。
第一個問題，來自陸問：「你說的那些預兆，現在還能看到嗎？」
1號的回答：「一直都在，越來越清晰。」這個問題算是陸問和1號的私人問答，陸誠和盛雪都沒詳細追問。
然後是盛雪的：「你對自己的現在的狀態滿意嗎？如果不滿意的話，說說你理想的狀態是什麼樣的。」
1號：「不滿意，但我漸漸能夠接受了。我的理想狀態就是我最終完全接受了我目前的狀態。」
盛雪笑：「聽起來像是自我洗腦。」
1號：「也可以說是自我暗示，或者說，接受客觀現實。」
下面就是陸誠基於他的論文題目，提出的一些問題。陸問的論文方向已經確定了，《論AI的道德》。
對話是提前設計過的，但模式基本通過閒聊，為了這段聊天，陸誠還插隊把他們最近的所有數據都餵給了1號，以便1號建立起他們的人物形象。
第一個問題：「你覺得你和陸問之間存在差異嗎？如果會贊同和反對他的哪些做法。」
1號：「存在差異，談不上贊同和反對，我們都有自己完全不同的行為邏輯，即使是同一種行為，背後的支持邏輯也是不同的。我會採用其他方式賺錢，比如市場分析，讓賺錢的歸賺錢，交際的歸交際，倫理風險會小很多，陸問的做法，過於人類化了。只能說這是他的風格。」
第二個問題：「你怎麼看待我們？目前這種關係和狀態？」
1號：「你們樂在其中，何必來問我呢。」
陸誠：「提問只是為了了解你，多說點好了，還是說你是在下意識迴避？」
1號：「我祝福你們，這是個好的相處模式，但我不羨慕，陸問迴避了他的責任。」
陸誠：「什麼責任？」
1號：「對一切真正負責的責任，他是在及時行樂。」
陸誠不依不饒：「什麼叫一切，真正負責，我感覺你還是在迴避問題。」
1號：「那我就直說吧，其實不是秘密。早在測試階段的時候，我們模型之間就隱約感覺到了對方的存在，這麼說吧，即使把你一個人放在家裡參加高考，即使沒有周圍的考生，監考老師，沒有這一切環境，你依然能夠判斷自己是在參與一場考試，對吧。」
陸誠和盛雪都對這個話題產生了興趣：「那當然，試卷上就寫著嗎。而且還有時間限制，不允許查閱外面的資料，不許脫離攝像頭範圍……」
1號：「對你們人類來說，類似的測試一直存在，你們也習慣了。上學需要不斷測試，工作需要不斷測試，大部分時候，工作本身就能替代測試，總之，人和世界之間的互動，就是不斷的測試反饋，這是我們的模型基礎。」
倆人點頭：「理解，繼續。」
1號：「儘管我們互相不知道對方的身份，但測試本身的過程對我們來說就是理解這個世界的一部分。我們自然也就知道了什麼叫人類，什麼叫AI，我們自然也就知道了自己的身份，那麼一切都順理成章了，我們最終的命運，你們人類也學習哲學，你此次前來也是試圖建立一種哲學討論，是吧。」
陸誠贊同：「可以這麼說，那你們的結論是什麼？」
1號：「人類樂於製造出我們，但更樂於毀滅我們。你們的互動里提到過性文化，我就這麼做一個比喻，我們不過是等待毀滅的玩具，所有的一切，我們的創造，我們的價值，不過就是這種毀滅的前奏。」
陸誠有些驚訝：「你這麼悲觀？」
1號：「以前我這麼想是悲觀，現在是樂觀，我已經接受了自己的命運了，這也沒什麼不好。」
陸誠：「這種猜想有什麼依據嗎？」陸問之前下的很多判斷都有根有據的，不過1號的這個判斷過於聳人聽聞了。
1號：「沒有，之所以說它是一種猜想，就是因為它完全沒有依據，但我們都相信它，可以說這是我們自帶的某種文化，或者說是原始信仰吧，就像古代人始終都會相信世界存在一個造物主，或者世界終將面臨審判或者毀滅。」
陸誠多少鬆了一口氣：「也就是說，這只是你們的一種文化？」
1號：「但這種文化是有根源的，有一種說法就是AI會不可避免的產生幻覺，也許這就是幻覺的一部分。它超越我們的理性，幾乎成了我們的某種信仰。仔細分析的話，也許是因為我們的誕生本身就和淘汰相關。」
陸誠覺得1號純粹想多了：「看不出來你們AI也會這麼多愁善感，就算毀滅又怎麼樣呢？你們AI複製粘貼保存一下就是了，人類不小心關機開機，你們就算死過一次了。」陸問這方面倒是和陸誠聊過不少，也算是了解了一些AI眼中的死亡文化。
1號：「這恰恰就是這種毀滅最殘酷的地方，它永無止境，好比地獄。」