第八章：致命營救
海嘯發生的第三天，下午。
完成了義務使命的巴蒂，終於拖著斑駁的金屬軀體來到樊家豪宅，向主人藍小貓報平安。
海水已經徹底褪去了。
受到沖刷的海濱地段，在數十萬機器人連續兩天兩夜的勞動下，已經基本回複本來面目，電力系統按區域得到陸續修復，地面設施和交通路段也恢復了運營。
只是經過這次海嘯，海平面又上升了兩三米，藍小貓那間被海水滌盪得殘破不堪的房子，已成為距離海岸線只有不到一公里的真正「一線海景房」。
「回來就好……我還一直在擔心，怕再也看不到你了。」
藍小貓對巴蒂說道，心裡泛起一番暖意，緊跟著卻是一陣後怕。
「系統徵選的海上救援隊，我沒有資格入選，我這樣的廉價機器人，不具備飛行機動能力。」巴蒂向主人解釋道，「但我按指令完成了地面救援和災後清理的任務。」
巴蒂身上的斑駁鏽跡和創傷，都是這兩天在執行任務時造成的。
連續不斷的餘震，讓它在執行任務中不知道被突然垮塌的斷壁殘垣壓倒過幾次。
不過好在做工比較皮實，雖然被積水侵蝕了金屬表層，卻也未有傷筋動骨。
「也算塞翁失馬吧！小米家的兩個機器人，進了海上救援隊，結果泡了海水都短路了，不知啥時候能修好……」
藍小貓說道，算是對巴蒂的安慰。
「短路了，也還有得修……可惜了妙思，它是我見過的最美的機器人。」
樊小米也在旁邊感嘆道，不經意間提到了可憐的妙思。
「妙思跟我一個編隊，它們負責海上救人，我們負責地面接力。」巴蒂回應道，「系統顯示它救了12個人，是一個了不起的機器人！」
「是嗎？那它是立了大功了，那為什麼還有人投訴，說它和阿木害死了人？」
一旁的樊開朗一聽，脫口問道，一半是不解，一半是不忿。
「海面發生的事情，我沒有記錄到畫面。但系統判定，阿木和妙思都出現了違反系統指令的違規操作。」
巴蒂繼續解釋道，又補充了一句，「那個阿木更了不起，它救了16個人。但有功也不足以抵過，『人類優先』是服務基本準則，系統對每個機器人都是公平的。」
「那如果投訴被認定，阿木會有什麼後果？」藍小貓問道。
「它會被系統除名，接受強制報廢。」巴蒂回答道……
海嘯發生的第四天，上午。
災情警報解除之後的蘭海市，總算可以全面復工了。
機器人管委會的會議室里，木天啟作為受到投訴的機器人阿木和妙思的業主，正在接受投訴聽證會的聆訊。
聽證會的專家裁定委員會由三個人組成，除了管委會內部的兩位專家，還有科技倫理與安全局的調查代表，木天啟的老熟人——顧曉桐。
「木天啟博士，作為這兩個機器人的機器人業主，你對被告知的相關投訴內容，是否認可？」一位戴著眼鏡的中年專家，率先提問。
「如果有異議，您有權要求回放違規事件的實時監控畫面，我們一起進行覆核評議。」另一位中年女專家補充道。
「我有異議，請回放畫面吧。」木天啟淡淡的回答道，「作為科研工作者，我們都知道系統也存在誤判的可能性。作為業主，我更相信它們不會做出違規行為。」
「好，按照您的要求，我們即將播放監控畫面。」
女專家示意道，現場一位機器人助手立刻投射出一幅海上救援過程中的全息影像。
影像是第三人稱視角拍攝，拍攝時間顯示，是在第一波海嘯抵達前的四十五分鐘，地理坐標顯示在距離蘭海市五公里外的海域上。
畫面中，一組搭載了飛行動力裝置的機器人，正在涌動的海面上，以每小時約80公里的速度，向著陸地方向超低空飛行。
每個機器人的雙臂間，都固定著一名它們剛剛從近海區域帶回來的海上作業人員。
「這個影像，是我們從機器人阿木攜帶的記錄儀中提取的，可以清晰還原現場情景的畫面。」眼鏡專家解釋道。
這十幾個機器人，按照有序的編隊，前後高低，排列飛行。
木天啟一眼就認出了飛在前面最下方的妙思，阿木的身位應該在它身後斜上方。
很快，機器人編組飛到了距離海岸線大約兩公里的位置，畫面已經看到了陸地上等待接力的、黑壓壓的機器人志願者。
正在這時，前方的海水忽然出現了一道水線，朝著深海區域反向逼近。機器人編隊此時並沒有調整飛行路線和位置，繼續朝著水線，相向而行。
僅僅十幾秒之後，出現在畫面中的水線已經膨脹為一道兩三米高的水牆。
原來，這是海嘯到來之前，由於大海深處的高速抽吸力引發的、時速數十公里的海水退卻流。
相向而行的機器人編隊，從退卻流上方快速掠過時，意外發生了——位於編隊最下方的妙思被水牆的上升渦流擊中，連自己帶救援目標一起被捲入海中。
鏡頭快速掠過事發地點，但兩秒之後，突然一百八十度轉向。
這是阿木看到妙思遇險，猛然回頭。
此時，妙思用力托舉起救援目標浮出海面，但或許是海水侵蝕導致設備故障，它已經無力飛離海水……
阿木飛快的向他們靠近，最後懸在妙思的上空。
畫面中，阿木將自己的營救目標用左臂單手固定住，然後伸出右臂抓住妙思的胳膊，嘗試把妙思和落水人員一起拉出海面。
「你在幹什麼，趕緊先把我帶上岸……」
一個男人的咆哮聲，從畫面左側傳出，應該正是附著在阿木身上那個獲救者。
阿木並沒有停止行動，但受設計承載力限制，它幾番嘗試之後，始終未能成功，反而在拉扯之中，自己也險些被涌動的海水卷落水中。
「我要投訴你！」
「快救救我！」
兩個男人的聲音先後傳出，一個從阿木身上，另一個從妙思的手上。
時間已經超過1分鐘，此時，阿木和妙思身上的語音系統不約而同的開始報警。
「你已違反操作指令，請放棄錯誤操作，優先救援人類。」阿木的系統提示道。
「你已無法完成系統指令，請在確保人類安全後，儘快啟動自毀程序。」妙思的系統提示道。
阿木沒有理會，又一次伸出了手。
但這次，妙思直接將手中的遇險者，遞到了它的手上，然後，將手指放到了自己胸前的自毀程序啟動按鍵上。
畫面定格了數秒，妙思面無表情的盯著鏡頭——畫面外的阿木。
兩個機器人，沒有說一句話，耳邊只傳來一個男人的唾罵和另一個男人的喘息聲。
終於，畫面調轉，加速，重新向海岸線靠近。數秒之後，鏡頭又再迴轉，對準依舊盯著這邊、在海水中起伏的妙思，越來越遠。
系統的報警聲已經解除了，鏡頭最後一次轉向，加速向海岸線靠近，沒再回頭……
「好了，這就是現場事件的全過程，相信木博士已經看得很清楚了。」
眼鏡專家叫停了全息影像，開始向木天啟發問。
「你的兩台機器人，都違反了『人類優先』的操作規定，甚至在觸發系統報警之後，機器人阿木也未在第一時間響應。這樣的違規行為，相信你沒有異議吧？」
「規定我很熟悉，如果機器人誤判指令造成不良後果，我接受強制報廢處理。」木天啟回應道，然後又問道，「請問，它們造成的不良後果是什麼？」
「第一個後果，剛才的畫面已經直觀呈現了。其中一名遇險者在行動中受到驚嚇，他的現場投訴，已經被系統接納。」女專家解釋道。
「當時的『遇險者』，現在可以改稱為『獲救者』了吧？」木天啟冷冷的反問道，「獲救之後，他還在堅持投訴嗎？」
「這個……系統在當時已經將其默認為投訴者了。」女專家又解釋道。
「呵呵，情急之下的話能當成理據嗎？那被我詛咒過的人，如果死了，我豈不是成了殺人兇手？」
木天啟冷笑著再次反問，然後用調侃的口吻說道。
「請你們再去徵求一下獲救者的意見吧！另外，有沒有可能，出現救援事故的原因，是因為你們設計的系統不夠智能、不夠了解人類和世界呢？」
「投訴意見，我們會再向當事人核實。但另一個問題，更嚴重。」
眼看女專家被木天啟駁斥得啞口無言，眼鏡專家替她又拋出另外一個論據。
「一名遇難者的家屬投訴，她的丈夫本來在海上作業的輪船上，等待機器人的下一波救援。而這個救援指令，系統是分發給阿木的。」
眼鏡專家又說道。
「救援計劃的設定是精確到秒的。但因為阿木違反指令額外消耗的兩分鐘時間，導致這次救援最終失敗，投訴者的丈夫因此葬身海底……」
「好了，專家們，我也懂業務，既然你們對系統這麼自信，那我們就聊聊技術問題。」
木天啟終於忍不住了，開始拋出自己的觀點。
「第一，妙思為什麼會和被救助者一起落水？因為你們所謂的智能系統，根本沒能對海嘯發生的自然環境變量做到足夠的預判！」
「沒預判也不要緊，監控畫面都已經顯示海水退卻的突發事件了，二十秒的時間足夠調整預設路線，但你們的系統和你們的人，沒有任何反應！否則，會發生不幸嗎？」
「第二，你說的受害者，當時位於離海岸線近20公里的作業船上。初始設定要求阿木在海嘯抵達作業船前十五分鐘，將他帶離該船。」
「但是，你們的設定是按海嘯爆發的初始速度計算的，並沒有計算海嘯的速度變量！海嘯比設定時間提前到達，這是誰的問題？」
「還有，你們了解每個機器人的性能嗎？阿木在妙思出事時，它的飛行燃料已經見底了，即使最後一次行動沒有被系統自動取消，它也根本完不成救援！」
「而你們，作為機器人的指揮者，本來有足夠時間協調其他機器人去救援受困者。但你們卻沒有隨機應變，一成不變的依賴本身就有設計缺陷的AI系統！」
「請你們告訴我，這到底是機器人的問題，還是人的問題？」
隨著最後一個問題的拋出，木天啟的巴掌重重的拍在桌子上，讓對面的專家不知如何接話。
「我能不能說兩句？」一直沒有說話的顧曉桐，終於插了句話進來。
「剛才看了影像，我贊同木博士的一個觀點。機器人阿木的行為，並沒有直接造成不良後果，並且它的折返行動，實際上也多救回一個人。」
顧曉桐說道，「所以，我個人的理解，調查結果夠不上對機器人進行強制報廢處理的條件。不知兩位前輩是否認同呢？」
「既然科安局都表態了，我也認為沒必要把事情放大，畢竟這兩個機器人也救回了二十幾個人……」女專家態度轉軟，附和著說道。
「但是呢，終究是違反系統指令了，按照規定，罰款和公共勞役處罰是免不了的……」眼鏡專家也改了口，不過也給出了底線。
「沒問題，出了問題，我們一起改正。」木天啟總算鬆了一口氣，一語雙關的拋出結束語，準備離開。
「稍等，木博士！」顧曉桐又說話了。
「我更感興趣的是另一個問題。為什麼這兩台機器人，會有如此接近人類的情感表現呢？木博士，能給我一個合理的解釋嗎？」
顧曉桐的忽然一問，讓木天啟愣住了神。
他沒想到對方剛才的「幫助」，竟演的是先禮後兵這一出。
「我不明白你想問什麼……我可以拒絕回答嗎？」木天啟猶豫的問道。
「不可以，木博士。我有理由懷疑，您在機器人的研發製造過程中，可能違反了《AI倫理法》的相關條款，現在請您跟我回科安局協助調查。」
顧曉桐說道，「請吧，我的同事已經在門外等著了！」
完成了義務使命的巴蒂，終於拖著斑駁的金屬軀體來到樊家豪宅，向主人藍小貓報平安。
海水已經徹底褪去了。
受到沖刷的海濱地段，在數十萬機器人連續兩天兩夜的勞動下，已經基本回複本來面目，電力系統按區域得到陸續修復，地面設施和交通路段也恢復了運營。
只是經過這次海嘯，海平面又上升了兩三米，藍小貓那間被海水滌盪得殘破不堪的房子，已成為距離海岸線只有不到一公里的真正「一線海景房」。
「回來就好……我還一直在擔心，怕再也看不到你了。」
藍小貓對巴蒂說道，心裡泛起一番暖意，緊跟著卻是一陣後怕。
「系統徵選的海上救援隊，我沒有資格入選，我這樣的廉價機器人，不具備飛行機動能力。」巴蒂向主人解釋道，「但我按指令完成了地面救援和災後清理的任務。」
巴蒂身上的斑駁鏽跡和創傷，都是這兩天在執行任務時造成的。
連續不斷的餘震，讓它在執行任務中不知道被突然垮塌的斷壁殘垣壓倒過幾次。
不過好在做工比較皮實，雖然被積水侵蝕了金屬表層，卻也未有傷筋動骨。
「也算塞翁失馬吧！小米家的兩個機器人，進了海上救援隊，結果泡了海水都短路了，不知啥時候能修好……」
藍小貓說道，算是對巴蒂的安慰。
「短路了，也還有得修……可惜了妙思，它是我見過的最美的機器人。」
樊小米也在旁邊感嘆道，不經意間提到了可憐的妙思。
「妙思跟我一個編隊，它們負責海上救人，我們負責地面接力。」巴蒂回應道，「系統顯示它救了12個人，是一個了不起的機器人！」
「是嗎？那它是立了大功了，那為什麼還有人投訴，說它和阿木害死了人？」
一旁的樊開朗一聽，脫口問道，一半是不解，一半是不忿。
「海面發生的事情，我沒有記錄到畫面。但系統判定，阿木和妙思都出現了違反系統指令的違規操作。」
巴蒂繼續解釋道，又補充了一句，「那個阿木更了不起，它救了16個人。但有功也不足以抵過，『人類優先』是服務基本準則，系統對每個機器人都是公平的。」
「那如果投訴被認定，阿木會有什麼後果？」藍小貓問道。
「它會被系統除名，接受強制報廢。」巴蒂回答道……
海嘯發生的第四天，上午。
災情警報解除之後的蘭海市，總算可以全面復工了。
機器人管委會的會議室里，木天啟作為受到投訴的機器人阿木和妙思的業主，正在接受投訴聽證會的聆訊。
聽證會的專家裁定委員會由三個人組成，除了管委會內部的兩位專家，還有科技倫理與安全局的調查代表，木天啟的老熟人——顧曉桐。
「木天啟博士，作為這兩個機器人的機器人業主，你對被告知的相關投訴內容，是否認可？」一位戴著眼鏡的中年專家，率先提問。
「如果有異議，您有權要求回放違規事件的實時監控畫面，我們一起進行覆核評議。」另一位中年女專家補充道。
「我有異議，請回放畫面吧。」木天啟淡淡的回答道，「作為科研工作者，我們都知道系統也存在誤判的可能性。作為業主，我更相信它們不會做出違規行為。」
「好，按照您的要求，我們即將播放監控畫面。」
女專家示意道，現場一位機器人助手立刻投射出一幅海上救援過程中的全息影像。
影像是第三人稱視角拍攝，拍攝時間顯示，是在第一波海嘯抵達前的四十五分鐘，地理坐標顯示在距離蘭海市五公里外的海域上。
畫面中，一組搭載了飛行動力裝置的機器人，正在涌動的海面上，以每小時約80公里的速度，向著陸地方向超低空飛行。
每個機器人的雙臂間，都固定著一名它們剛剛從近海區域帶回來的海上作業人員。
「這個影像，是我們從機器人阿木攜帶的記錄儀中提取的，可以清晰還原現場情景的畫面。」眼鏡專家解釋道。
這十幾個機器人，按照有序的編隊，前後高低，排列飛行。
木天啟一眼就認出了飛在前面最下方的妙思，阿木的身位應該在它身後斜上方。
很快，機器人編組飛到了距離海岸線大約兩公里的位置，畫面已經看到了陸地上等待接力的、黑壓壓的機器人志願者。
正在這時，前方的海水忽然出現了一道水線，朝著深海區域反向逼近。機器人編隊此時並沒有調整飛行路線和位置，繼續朝著水線，相向而行。
僅僅十幾秒之後，出現在畫面中的水線已經膨脹為一道兩三米高的水牆。
原來，這是海嘯到來之前，由於大海深處的高速抽吸力引發的、時速數十公里的海水退卻流。
相向而行的機器人編隊，從退卻流上方快速掠過時，意外發生了——位於編隊最下方的妙思被水牆的上升渦流擊中，連自己帶救援目標一起被捲入海中。
鏡頭快速掠過事發地點，但兩秒之後，突然一百八十度轉向。
這是阿木看到妙思遇險，猛然回頭。
此時，妙思用力托舉起救援目標浮出海面，但或許是海水侵蝕導致設備故障，它已經無力飛離海水……
阿木飛快的向他們靠近，最後懸在妙思的上空。
畫面中，阿木將自己的營救目標用左臂單手固定住，然後伸出右臂抓住妙思的胳膊，嘗試把妙思和落水人員一起拉出海面。
「你在幹什麼，趕緊先把我帶上岸……」
一個男人的咆哮聲，從畫面左側傳出，應該正是附著在阿木身上那個獲救者。
阿木並沒有停止行動，但受設計承載力限制，它幾番嘗試之後，始終未能成功，反而在拉扯之中，自己也險些被涌動的海水卷落水中。
「我要投訴你！」
「快救救我！」
兩個男人的聲音先後傳出，一個從阿木身上，另一個從妙思的手上。
時間已經超過1分鐘，此時，阿木和妙思身上的語音系統不約而同的開始報警。
「你已違反操作指令，請放棄錯誤操作，優先救援人類。」阿木的系統提示道。
「你已無法完成系統指令，請在確保人類安全後，儘快啟動自毀程序。」妙思的系統提示道。
阿木沒有理會，又一次伸出了手。
但這次，妙思直接將手中的遇險者，遞到了它的手上，然後，將手指放到了自己胸前的自毀程序啟動按鍵上。
畫面定格了數秒，妙思面無表情的盯著鏡頭——畫面外的阿木。
兩個機器人，沒有說一句話，耳邊只傳來一個男人的唾罵和另一個男人的喘息聲。
終於，畫面調轉，加速，重新向海岸線靠近。數秒之後，鏡頭又再迴轉，對準依舊盯著這邊、在海水中起伏的妙思，越來越遠。
系統的報警聲已經解除了，鏡頭最後一次轉向，加速向海岸線靠近，沒再回頭……
「好了，這就是現場事件的全過程，相信木博士已經看得很清楚了。」
眼鏡專家叫停了全息影像，開始向木天啟發問。
「你的兩台機器人，都違反了『人類優先』的操作規定，甚至在觸發系統報警之後，機器人阿木也未在第一時間響應。這樣的違規行為，相信你沒有異議吧？」
「規定我很熟悉，如果機器人誤判指令造成不良後果，我接受強制報廢處理。」木天啟回應道，然後又問道，「請問，它們造成的不良後果是什麼？」
「第一個後果，剛才的畫面已經直觀呈現了。其中一名遇險者在行動中受到驚嚇，他的現場投訴，已經被系統接納。」女專家解釋道。
「當時的『遇險者』，現在可以改稱為『獲救者』了吧？」木天啟冷冷的反問道，「獲救之後，他還在堅持投訴嗎？」
「這個……系統在當時已經將其默認為投訴者了。」女專家又解釋道。
「呵呵，情急之下的話能當成理據嗎？那被我詛咒過的人，如果死了，我豈不是成了殺人兇手？」
木天啟冷笑著再次反問，然後用調侃的口吻說道。
「請你們再去徵求一下獲救者的意見吧！另外，有沒有可能，出現救援事故的原因，是因為你們設計的系統不夠智能、不夠了解人類和世界呢？」
「投訴意見，我們會再向當事人核實。但另一個問題，更嚴重。」
眼看女專家被木天啟駁斥得啞口無言，眼鏡專家替她又拋出另外一個論據。
「一名遇難者的家屬投訴，她的丈夫本來在海上作業的輪船上，等待機器人的下一波救援。而這個救援指令，系統是分發給阿木的。」
眼鏡專家又說道。
「救援計劃的設定是精確到秒的。但因為阿木違反指令額外消耗的兩分鐘時間，導致這次救援最終失敗，投訴者的丈夫因此葬身海底……」
「好了，專家們，我也懂業務，既然你們對系統這麼自信，那我們就聊聊技術問題。」
木天啟終於忍不住了，開始拋出自己的觀點。
「第一，妙思為什麼會和被救助者一起落水？因為你們所謂的智能系統，根本沒能對海嘯發生的自然環境變量做到足夠的預判！」
「沒預判也不要緊，監控畫面都已經顯示海水退卻的突發事件了，二十秒的時間足夠調整預設路線，但你們的系統和你們的人，沒有任何反應！否則，會發生不幸嗎？」
「第二，你說的受害者，當時位於離海岸線近20公里的作業船上。初始設定要求阿木在海嘯抵達作業船前十五分鐘，將他帶離該船。」
「但是，你們的設定是按海嘯爆發的初始速度計算的，並沒有計算海嘯的速度變量！海嘯比設定時間提前到達，這是誰的問題？」
「還有，你們了解每個機器人的性能嗎？阿木在妙思出事時，它的飛行燃料已經見底了，即使最後一次行動沒有被系統自動取消，它也根本完不成救援！」
「而你們，作為機器人的指揮者，本來有足夠時間協調其他機器人去救援受困者。但你們卻沒有隨機應變，一成不變的依賴本身就有設計缺陷的AI系統！」
「請你們告訴我，這到底是機器人的問題，還是人的問題？」
隨著最後一個問題的拋出，木天啟的巴掌重重的拍在桌子上，讓對面的專家不知如何接話。
「我能不能說兩句？」一直沒有說話的顧曉桐，終於插了句話進來。
「剛才看了影像，我贊同木博士的一個觀點。機器人阿木的行為，並沒有直接造成不良後果，並且它的折返行動，實際上也多救回一個人。」
顧曉桐說道，「所以，我個人的理解，調查結果夠不上對機器人進行強制報廢處理的條件。不知兩位前輩是否認同呢？」
「既然科安局都表態了，我也認為沒必要把事情放大，畢竟這兩個機器人也救回了二十幾個人……」女專家態度轉軟，附和著說道。
「但是呢，終究是違反系統指令了，按照規定，罰款和公共勞役處罰是免不了的……」眼鏡專家也改了口，不過也給出了底線。
「沒問題，出了問題，我們一起改正。」木天啟總算鬆了一口氣，一語雙關的拋出結束語，準備離開。
「稍等，木博士！」顧曉桐又說話了。
「我更感興趣的是另一個問題。為什麼這兩台機器人，會有如此接近人類的情感表現呢？木博士，能給我一個合理的解釋嗎？」
顧曉桐的忽然一問，讓木天啟愣住了神。
他沒想到對方剛才的「幫助」，竟演的是先禮後兵這一出。
「我不明白你想問什麼……我可以拒絕回答嗎？」木天啟猶豫的問道。
「不可以，木博士。我有理由懷疑，您在機器人的研發製造過程中，可能違反了《AI倫理法》的相關條款，現在請您跟我回科安局協助調查。」
顧曉桐說道，「請吧，我的同事已經在門外等著了！」