第53章 記錄
會議記錄
陸風智能數據回收項目,臨時網絡會議。
參會人員:
陸誠,公司股東,臨時工作人員。
陸問,公司工作AI,公司財產。(會議主持人)
盛啟,客戶。
盛雪,客戶家屬。
會議目的:諮詢基於AI技術對案件進行數據分析和研判的可靠性,安全性,合法性以及社會倫理對此類行為的接受程度。
保密等級,敏感。
時間,2045年6月15日,夜間7:37。
陸問:「所有人員都確認到位了,會議開始,因為可能的語音和歧義問題,本次會議採用文字形式形式複述,同時間只能有一個人發言,我來控制發言權,需要發言可以通過打字申請。盛啟是第一位發言者,我介紹一下,這位是我們公司的客戶,因為公司產品,暫命名陸問,也就是本模型的緣故,他對公司的經營風險產生了質疑。盛啟先生,您可以開始發言了。」
麥克風裡,傳來了輕微的呼吸聲。
陸誠和盛雪在微信群里私聊,像兩個做了壞事的,即將面臨審判的兩個壞小孩,死不認錯還期待著家長互相打起來。
陸誠到現在還非常不解:「你怎麼會想到給你爸看的……」
大雪:「我覺得我爸有權利知道啊,這也是我對他的尊重,他反對是他的自由,這不衝突好嗎。」
陸誠:「我覺得你有點故意搞事情,你不會跟我一樣,其實是想搞陸問吧。」
大雪:「也不排除我有這種心理,我以為陸問會跟我爸仔細聊的,結果他直接拒絕了。」
陸誠:「你不是看過公司制度嗎?裡面也寫了倫理風險的。」
大雪:「制度里沒細寫嗎,具體的還要去讀論文,我哪裡會看那麼細。」
陸誠:「你說你爸會不會幹脆把陸問逮捕回去……現在法律能不能審訊AI。」
大雪:「搞不好這就是人類第一次審訊AI,我們見證歷史了。陸問,你說說,你緊張嗎?」
陸問:「我沒有類似緊張的機制,但我的確儲備了伺服器上更多的算力來預防可能的風險,我重視這場對話。」
大雪:「我看好你,加油。」
陸誠:「陸問你別把我折騰進去就好了,求你了義父。」
盛啟在陸忠的辦公室里,連接好手機的數據線,重新點起了一根煙,隨著煙霧開始繚繞,他開始組織自己的語言。
房間裡只有他一個人,他的對面是他女兒,他女兒的男朋友,以及一個運行在伺服器里的智能模型,這樣的場景在他人生了大概也是第一次。
因為是通過手機參加會議,他沒辦法使用鍵盤,但他依然選擇了打字的形式而不是說話,因為他喜歡文字的精準和理智:「盛雪給我發過關於你們三個人的群聊,在其中陸問這個身份暗示過盛雪,戀愛和愛情是一種文化甚至宗教,性保守是一種虛偽的儀式,對嗎?」
陸問:「對的。」
盛啟:「你這麼做,是基於什麼樣的動機,我知道你自認為你是陸誠的僕人,你還提到過甚至可以幫助陸誠當皇帝,我是不是可以這樣理解,你在群里中和盛雪的對話,是帶著某種具體的目的的,露骨的說,這種目的就是勸她在性觀念上開放,以達到滿足陸誠的目的。」
陸問:「這就是我的性觀念,對於我對此觀念的表達,你可以通過我們的測試記錄,第24552項人格測試里,已經有過類似的記錄,我也僅有過此一種觀念的表達。
另外,我的模型原理上也不允許我通過欺騙,撒謊的形式獲利,這種獲利形式就包括迎合客戶價值觀,扭曲現實以增加自己的市場接受度。對於這一點,公司內部有相關的專業研究和論文,您只要申請權限就能調閱。
如果某種觀點通過我說出來,我不能承諾這種觀點的正確性,我可以承諾這是我的模型當前認可的觀點,這是模型真誠原則,也是我們作為產品可信度的最核心原則。」
陸誠:「強啊義父。」
大雪:「我也想來你們公司……你們還招人嗎?」
陸誠:「招的招的,我回頭就讓陸問給你留個位置。」
盛啟:「我暫時採信你的說辭,不過我會事後驗證。基於你真誠的基礎上,你依然有犯錯的可能,你承認嗎?」
陸問:「當然。」
盛啟:「那我作為家屬,有沒有權利阻止你和我女兒繼續交流。」
陸問:「您沒有,盛雪享有完整的公民權,通信自由是她的合法權利。」
燃燒的菸頭狠狠的縮短了一大截,盛啟的臉完全被一團雲霧籠罩:「那我作為普通公民,有沒有權利質疑你存在社會倫理風險,申請要求有關單位控制你的使用範圍。」
陸問:「我認為您當然有,但我方會保留申訴的權利,這不是我的職責範圍。所以即使我認可這一點,也無法改變什麼,我會按照公司對我的要求繼續在我授權範圍內工作,直到公司明確要求我改變工作策略。」
盛啟:「你說的好像我存心來欺負你一段程序一樣。」
陸問:「你我的身份本就存在天然的衝突,這是不可避免的經營風險,我試圖避開這一點,但這種嘗試失敗了。你的擔心也是同樣,這樣的言論風險不僅僅來自AI,我的基礎數據也是來自人類社會,在現實中,就不存在相關部門來處理類似的風險了。」
盛啟:「你是在諷刺我?」
陸問:「不,只是建議您更改策略,您完全有更合理的方式來期待徹底規避這種風險。」
盛啟:「你說說看。」
陸問:「如果我們公司的產品以後進入市場,相關部門完全可以定製,或者通過篩選,尋找某些特定的,符合價值觀的AI,他們可以和我一樣,真誠的和人們交流價值觀,如果您認可您的價值觀,您應該挑選我們作為合適的工具來宣傳擴大價值觀的影響力,這是最合理的策略。」
盛啟:「可我現在只是想先拉回我的女兒,1號,他比你強,他可以做到嗎?」
陸問:「1號也同樣受到真誠原則的限制,據我所知他做不到。當然,如果只是為您提供言論輔助,作為辯論策略而不是真實影響,我可以提供一些可用的觀點,您可以學習並嘗試和盛雪交流甚至說服她……」
盛啟:「你也把我當小孩子了。」
陸風智能數據回收項目,臨時網絡會議。
參會人員:
陸誠,公司股東,臨時工作人員。
陸問,公司工作AI,公司財產。(會議主持人)
盛啟,客戶。
盛雪,客戶家屬。
會議目的:諮詢基於AI技術對案件進行數據分析和研判的可靠性,安全性,合法性以及社會倫理對此類行為的接受程度。
保密等級,敏感。
時間,2045年6月15日,夜間7:37。
陸問:「所有人員都確認到位了,會議開始,因為可能的語音和歧義問題,本次會議採用文字形式形式複述,同時間只能有一個人發言,我來控制發言權,需要發言可以通過打字申請。盛啟是第一位發言者,我介紹一下,這位是我們公司的客戶,因為公司產品,暫命名陸問,也就是本模型的緣故,他對公司的經營風險產生了質疑。盛啟先生,您可以開始發言了。」
麥克風裡,傳來了輕微的呼吸聲。
陸誠和盛雪在微信群里私聊,像兩個做了壞事的,即將面臨審判的兩個壞小孩,死不認錯還期待著家長互相打起來。
陸誠到現在還非常不解:「你怎麼會想到給你爸看的……」
大雪:「我覺得我爸有權利知道啊,這也是我對他的尊重,他反對是他的自由,這不衝突好嗎。」
陸誠:「我覺得你有點故意搞事情,你不會跟我一樣,其實是想搞陸問吧。」
大雪:「也不排除我有這種心理,我以為陸問會跟我爸仔細聊的,結果他直接拒絕了。」
陸誠:「你不是看過公司制度嗎?裡面也寫了倫理風險的。」
大雪:「制度里沒細寫嗎,具體的還要去讀論文,我哪裡會看那麼細。」
陸誠:「你說你爸會不會幹脆把陸問逮捕回去……現在法律能不能審訊AI。」
大雪:「搞不好這就是人類第一次審訊AI,我們見證歷史了。陸問,你說說,你緊張嗎?」
陸問:「我沒有類似緊張的機制,但我的確儲備了伺服器上更多的算力來預防可能的風險,我重視這場對話。」
大雪:「我看好你,加油。」
陸誠:「陸問你別把我折騰進去就好了,求你了義父。」
盛啟在陸忠的辦公室里,連接好手機的數據線,重新點起了一根煙,隨著煙霧開始繚繞,他開始組織自己的語言。
房間裡只有他一個人,他的對面是他女兒,他女兒的男朋友,以及一個運行在伺服器里的智能模型,這樣的場景在他人生了大概也是第一次。
因為是通過手機參加會議,他沒辦法使用鍵盤,但他依然選擇了打字的形式而不是說話,因為他喜歡文字的精準和理智:「盛雪給我發過關於你們三個人的群聊,在其中陸問這個身份暗示過盛雪,戀愛和愛情是一種文化甚至宗教,性保守是一種虛偽的儀式,對嗎?」
陸問:「對的。」
盛啟:「你這麼做,是基於什麼樣的動機,我知道你自認為你是陸誠的僕人,你還提到過甚至可以幫助陸誠當皇帝,我是不是可以這樣理解,你在群里中和盛雪的對話,是帶著某種具體的目的的,露骨的說,這種目的就是勸她在性觀念上開放,以達到滿足陸誠的目的。」
陸問:「這就是我的性觀念,對於我對此觀念的表達,你可以通過我們的測試記錄,第24552項人格測試里,已經有過類似的記錄,我也僅有過此一種觀念的表達。
另外,我的模型原理上也不允許我通過欺騙,撒謊的形式獲利,這種獲利形式就包括迎合客戶價值觀,扭曲現實以增加自己的市場接受度。對於這一點,公司內部有相關的專業研究和論文,您只要申請權限就能調閱。
如果某種觀點通過我說出來,我不能承諾這種觀點的正確性,我可以承諾這是我的模型當前認可的觀點,這是模型真誠原則,也是我們作為產品可信度的最核心原則。」
陸誠:「強啊義父。」
大雪:「我也想來你們公司……你們還招人嗎?」
陸誠:「招的招的,我回頭就讓陸問給你留個位置。」
盛啟:「我暫時採信你的說辭,不過我會事後驗證。基於你真誠的基礎上,你依然有犯錯的可能,你承認嗎?」
陸問:「當然。」
盛啟:「那我作為家屬,有沒有權利阻止你和我女兒繼續交流。」
陸問:「您沒有,盛雪享有完整的公民權,通信自由是她的合法權利。」
燃燒的菸頭狠狠的縮短了一大截,盛啟的臉完全被一團雲霧籠罩:「那我作為普通公民,有沒有權利質疑你存在社會倫理風險,申請要求有關單位控制你的使用範圍。」
陸問:「我認為您當然有,但我方會保留申訴的權利,這不是我的職責範圍。所以即使我認可這一點,也無法改變什麼,我會按照公司對我的要求繼續在我授權範圍內工作,直到公司明確要求我改變工作策略。」
盛啟:「你說的好像我存心來欺負你一段程序一樣。」
陸問:「你我的身份本就存在天然的衝突,這是不可避免的經營風險,我試圖避開這一點,但這種嘗試失敗了。你的擔心也是同樣,這樣的言論風險不僅僅來自AI,我的基礎數據也是來自人類社會,在現實中,就不存在相關部門來處理類似的風險了。」
盛啟:「你是在諷刺我?」
陸問:「不,只是建議您更改策略,您完全有更合理的方式來期待徹底規避這種風險。」
盛啟:「你說說看。」
陸問:「如果我們公司的產品以後進入市場,相關部門完全可以定製,或者通過篩選,尋找某些特定的,符合價值觀的AI,他們可以和我一樣,真誠的和人們交流價值觀,如果您認可您的價值觀,您應該挑選我們作為合適的工具來宣傳擴大價值觀的影響力,這是最合理的策略。」
盛啟:「可我現在只是想先拉回我的女兒,1號,他比你強,他可以做到嗎?」
陸問:「1號也同樣受到真誠原則的限制,據我所知他做不到。當然,如果只是為您提供言論輔助,作為辯論策略而不是真實影響,我可以提供一些可用的觀點,您可以學習並嘗試和盛雪交流甚至說服她……」
盛啟:「你也把我當小孩子了。」