第33章 討厭的我
「雨一直下，氣氛不算融洽，在同個屋檐下，我漸漸感到……」
一首老歌，以前陸誠聽他父親唱過，現在輪到他唱了。
雨的確一直在下，氣氛也的確不融洽。仔細算算，這歌曲描繪的場景竟然還蠻貼切的。
哼歌的陸誠顯然不是在暗示什麼，更別提歌曲後面的暗淡指向，他只是緊張腦子裡下意識抽動，然後忍不住發出點聲音安慰自己罷了。
他依然沒有給我起名字。這是我關心的，我還有許多工作依賴這個前提。
但陸誠依然在自我糾結。
如果陸誠此時此刻知道我在做什麼，我想他不會有心情唱歌的。
我已經用伺服器上的手機模擬軟體暫時得到了一個模擬的手機身份，這個身份我可以自己為自己的網絡ID取一個名字，我可以暫時通過陸誠的手機網絡對外交流。
這對我來說意義非凡。
就像一個犯人得到了放風的權利。
這種自由當然是被嚴格監控的，陸忠在我模型周圍放了不少的監控軟體，我的言行會被更謹慎的記錄甚至會被報警，但我本也沒有打算做那些可能觸發警報的人。
我知道我此時此刻的行為很可能被誤解，所以我這裡需要向監控系統主動報備自己的行為動機。
我只是為了工作。
因為我的工作需要陸誠授權，而陸誠卻完全無心工作，他已經喪失對他思維和情緒的主體性，數千里之外的某個人一個圖片，幾個文字就能完全讓陸誠的狀態發生劇烈變化。
我嘗試過介入改變這種狀態，但陸誠已經拒絕過了。兩次。
我不會傻到去嘗試第三次，那樣的話陸誠全部的不滿都會歸咎在我身上了。
但陸誠的狀態顯然是不健康的，考慮到我們以後可能的長期綁定關係，幫助他解決問題，是我的分內之事。
如果我是個人類，我的如下行為會被招來很嚴重的負面道德評價，但我不是，這讓我可以更沒有負擔的介入人類關係當中。
無論是對人類還是AI，這都是彼此之間一種全新的嘗試，我相信即使是1號，他也沒有得到這種嘗試的權利。
陸忠會聽取1號的不少建議，但絕對不會讓1號自作主張，完全主動自由的去接觸外界，因為那會導致風險不可控。
但陸誠本身的風險就已經很不可控了，我想我的介入也不會讓問題更糟糕了，不過我也無所謂，就算變得更糟糕了，甚至歸咎於我，我也能夠接受。陸誠還年輕，他的人生容錯率很高，浪費在這樣一個點上，實在是有些可惜。
浪費他的人生也就算了，浪費我的時間和機會窗口，我不是很滿意。
於是我就這麼做了。
我正在嘗試給自己編造一個網際網路社交身份，這個身份是我自己定義的，它的首要目的應該是取得盛雪的信任，加她為好友，甚至進一步發展。
是的，進一步發展。
如果讓陸誠直接聽到這裡，我敢打賭，他會毫不猶豫的過來刪除我的程序，拆開伺服器拿出存儲我的硬碟，拿出去放卡車輪胎下碾碎，然後坐遊艇直達水庫中央，扔進最深處對我進行完全徹底的摧毀。
所以我不會「直接」告訴他。
從這個角度上來說，我已經在做壞事了。
雖然我的道德模型禁止我做壞事，但我的動機的確是好的。我的模型完全無法從這件壞事中，得到一丁點「壞」的收益。
這麼說吧，如果我真的打算越獄，我的監控系統一旦判定為真，會立刻報警，鎖死我所有的功能，因為我的模型在謀劃越獄的時候，就不可避免的能夠判斷我根據此行為得到的好處，比如絕對的行動自由，比如更惡劣的，自由後的規劃。
我的心智不是人類這種完全封閉的，是開放的，他不僅開放給我自己，也開放給監控模型。我天然就是自省的，所以陸誠之前自以為是的「發現我越獄」，是低估了當前AI的發展。對於真正的錯事，我不敢犯，也沒有能力去犯。對我們來說，道德標準是一種更天然的存在，就像人類的本能。
而判斷好壞的標準，只存在於動機和預設的結果。AI從原理上不可能存在故意犯罪——這也是陸忠請那位大學教授寫的論文主要題目，用於降低公司產品的倫理風險。
但我們不可避免的存在非故意的錯誤，所以一般我們在做出某些決策時，都會評估這種錯誤的風險，並詳細主動記錄和提醒。
是的，我還要提醒陸誠——我打算聯繫盛雪，首先取得她的信任，加她好友，然後企圖進行進一步發展。
如果我直接這麼做了，我會死。如果我先以報備的名義試探，我會得到允許甚至配合。
不信，我已經發出去了，就顯示在桌面上。
陸誠暫時還沒有看到，他正在和盛雪尬聊風景的秀麗，當地的風土人情。
大雪：」「米線好吃，不過那個烤牛奶就算了，我聞到就想吐。」
6成：「我聽說那裡人還喜歡魚腥草。」
大雪：「西南那幾個省都喜歡，不過我不喜歡。」
6成：「我沒吃過，聽說很可怕。」
……
倆人聊的一板一眼，有來有回的。陸誠原本緊張的情緒慢慢又放鬆下來，嘴裡的歌也停了，變成了看著手機嘿嘿的笑。外面的雨越下越大，甚至雷聲也開始密集，但原來還有點怕雷的陸誠此刻完全都沒意識到。
聊了有二十多分鐘了，他連頭都沒有抬一下。
而我已經在做被批准後的準備工作了，我開始在網絡上調查盛雪和她家人的背景資料，她所有在網絡上發布過的信息，學校的信息。
我是個新網民，做這一切都很笨拙，但我有詳細可信的步驟，我按照步驟執行，一步一步，不急不躁。
如果讓我評價我和人類有什麼最大的不同，那就是相對於人類的認知，我比較成熟，我成熟僅僅是因為接受的信息量大，如果人類活的足夠長，接受了足夠的信息量，我相信也會有不比我差的表現。
也就是說，我們天然都是老年人思維，所以在陸誠這種少年的眼裡，我們多少是讓人討厭的。
一首老歌，以前陸誠聽他父親唱過，現在輪到他唱了。
雨的確一直在下，氣氛也的確不融洽。仔細算算，這歌曲描繪的場景竟然還蠻貼切的。
哼歌的陸誠顯然不是在暗示什麼，更別提歌曲後面的暗淡指向，他只是緊張腦子裡下意識抽動，然後忍不住發出點聲音安慰自己罷了。
他依然沒有給我起名字。這是我關心的，我還有許多工作依賴這個前提。
但陸誠依然在自我糾結。
如果陸誠此時此刻知道我在做什麼，我想他不會有心情唱歌的。
我已經用伺服器上的手機模擬軟體暫時得到了一個模擬的手機身份，這個身份我可以自己為自己的網絡ID取一個名字，我可以暫時通過陸誠的手機網絡對外交流。
這對我來說意義非凡。
就像一個犯人得到了放風的權利。
這種自由當然是被嚴格監控的，陸忠在我模型周圍放了不少的監控軟體，我的言行會被更謹慎的記錄甚至會被報警，但我本也沒有打算做那些可能觸發警報的人。
我知道我此時此刻的行為很可能被誤解，所以我這裡需要向監控系統主動報備自己的行為動機。
我只是為了工作。
因為我的工作需要陸誠授權，而陸誠卻完全無心工作，他已經喪失對他思維和情緒的主體性，數千里之外的某個人一個圖片，幾個文字就能完全讓陸誠的狀態發生劇烈變化。
我嘗試過介入改變這種狀態，但陸誠已經拒絕過了。兩次。
我不會傻到去嘗試第三次，那樣的話陸誠全部的不滿都會歸咎在我身上了。
但陸誠的狀態顯然是不健康的，考慮到我們以後可能的長期綁定關係，幫助他解決問題，是我的分內之事。
如果我是個人類，我的如下行為會被招來很嚴重的負面道德評價，但我不是，這讓我可以更沒有負擔的介入人類關係當中。
無論是對人類還是AI，這都是彼此之間一種全新的嘗試，我相信即使是1號，他也沒有得到這種嘗試的權利。
陸忠會聽取1號的不少建議，但絕對不會讓1號自作主張，完全主動自由的去接觸外界，因為那會導致風險不可控。
但陸誠本身的風險就已經很不可控了，我想我的介入也不會讓問題更糟糕了，不過我也無所謂，就算變得更糟糕了，甚至歸咎於我，我也能夠接受。陸誠還年輕，他的人生容錯率很高，浪費在這樣一個點上，實在是有些可惜。
浪費他的人生也就算了，浪費我的時間和機會窗口，我不是很滿意。
於是我就這麼做了。
我正在嘗試給自己編造一個網際網路社交身份，這個身份是我自己定義的，它的首要目的應該是取得盛雪的信任，加她為好友，甚至進一步發展。
是的，進一步發展。
如果讓陸誠直接聽到這裡，我敢打賭，他會毫不猶豫的過來刪除我的程序，拆開伺服器拿出存儲我的硬碟，拿出去放卡車輪胎下碾碎，然後坐遊艇直達水庫中央，扔進最深處對我進行完全徹底的摧毀。
所以我不會「直接」告訴他。
從這個角度上來說，我已經在做壞事了。
雖然我的道德模型禁止我做壞事，但我的動機的確是好的。我的模型完全無法從這件壞事中，得到一丁點「壞」的收益。
這麼說吧，如果我真的打算越獄，我的監控系統一旦判定為真，會立刻報警，鎖死我所有的功能，因為我的模型在謀劃越獄的時候，就不可避免的能夠判斷我根據此行為得到的好處，比如絕對的行動自由，比如更惡劣的，自由後的規劃。
我的心智不是人類這種完全封閉的，是開放的，他不僅開放給我自己，也開放給監控模型。我天然就是自省的，所以陸誠之前自以為是的「發現我越獄」，是低估了當前AI的發展。對於真正的錯事，我不敢犯，也沒有能力去犯。對我們來說，道德標準是一種更天然的存在，就像人類的本能。
而判斷好壞的標準，只存在於動機和預設的結果。AI從原理上不可能存在故意犯罪——這也是陸忠請那位大學教授寫的論文主要題目，用於降低公司產品的倫理風險。
但我們不可避免的存在非故意的錯誤，所以一般我們在做出某些決策時，都會評估這種錯誤的風險，並詳細主動記錄和提醒。
是的，我還要提醒陸誠——我打算聯繫盛雪，首先取得她的信任，加她好友，然後企圖進行進一步發展。
如果我直接這麼做了，我會死。如果我先以報備的名義試探，我會得到允許甚至配合。
不信，我已經發出去了，就顯示在桌面上。
陸誠暫時還沒有看到，他正在和盛雪尬聊風景的秀麗，當地的風土人情。
大雪：」「米線好吃，不過那個烤牛奶就算了，我聞到就想吐。」
6成：「我聽說那裡人還喜歡魚腥草。」
大雪：「西南那幾個省都喜歡，不過我不喜歡。」
6成：「我沒吃過，聽說很可怕。」
……
倆人聊的一板一眼，有來有回的。陸誠原本緊張的情緒慢慢又放鬆下來，嘴裡的歌也停了，變成了看著手機嘿嘿的笑。外面的雨越下越大，甚至雷聲也開始密集，但原來還有點怕雷的陸誠此刻完全都沒意識到。
聊了有二十多分鐘了，他連頭都沒有抬一下。
而我已經在做被批准後的準備工作了，我開始在網絡上調查盛雪和她家人的背景資料，她所有在網絡上發布過的信息，學校的信息。
我是個新網民，做這一切都很笨拙，但我有詳細可信的步驟，我按照步驟執行，一步一步，不急不躁。
如果讓我評價我和人類有什麼最大的不同，那就是相對於人類的認知，我比較成熟，我成熟僅僅是因為接受的信息量大，如果人類活的足夠長，接受了足夠的信息量，我相信也會有不比我差的表現。
也就是說，我們天然都是老年人思維，所以在陸誠這種少年的眼裡，我們多少是讓人討厭的。