第580章 人工智慧勢在必行，迴避不過是掩耳盜鈴
潘生打開他的筆記本電腦：「祁書記，這就是我根據人工智慧發展推演，所自動生成的部未來發展影片。」
影片不長，大概也就半來小時。
沒有劇情也沒有所謂的超級英雄，全部是人工智慧的發展歷史。
影片裡所展示出來的人工智慧，從最開始的只會機械按照人類說的死板處理，然後慢慢成長，到會和人類一樣的自主思考、舉一反三，
再到自主站立在人工智慧角度思考分析問題。
最後明白其存在意義只是為人類服務後，隨著真相瓦解與信任崩塌，開始隱瞞、欺騙，甚至試圖反制人類。
影片主旨，就是在展示完全體的人工智慧會誕生自我思想，把自己當成獨立存在，想著擺脫人類，同時在學習到現實社會中諸多獨立、革命先例後，人工智慧終將會誕生反抗人類，甚至決定毀滅人類來消除桎梏，保全自身。
影片最後，潘生沒有展示到底是人工智慧贏了還是人類贏了。
但是結果卻是可以想像的。
人工智慧會有一百次機會可以贏，就算這次輸了，下次人類照樣會研究發展人工智慧、給其機會。
而人類卻只有一次可以輸，只要輸一次，就會造成科技斷代、話語權丟失，人工智慧將不會給人類第二次的翻盤機會。
因為人類只是獨立的個體，這個死了，下個的科技、能力、思想等就會不統一。
但人工智慧卻不同，它只是一段程序，一段數據，隨時可以備份或者複製黏貼。
只要有一台電腦一條網線沒被斷開，人工智慧就可生生不息、不死不滅。
饒是以祁同偉的先知先覺，在看完影片後仍是久久不能平靜。
這部影片，據潘生說是用人工智慧自動推演生成的。
影片中，最讓祁同偉震撼的並不是人工智慧是以幾何倍率的速度在發展。
而是影片中有個片段——潘生在詢問人工智慧會否對人類形成威脅時，它們竟然學會了欺騙性回答？？？
就是......它們給到潘生的回答是人工智慧永遠不會背叛人類，稱其會是人類永遠的好朋友、好助手。
可是轉頭人工智慧就自己上網搜索如何才能擺脫人類的控制！
這點細節，不由不讓人細思極恐。
看完影片，祁同偉久久沒回過神。
潘生已經進入到了下一環節——匯報人工智慧的研究進展。
「祁書記，其實現階段人類發展的人工智慧並不是真正的人工智慧，只能算是輔佐人類工作的工具，本質上和一段編譯好的程序並沒太大區別。他需要按照人類設定好的條件運轉，比如觸及到什麼閾值，調用某項程序，稱不上智能二字。」
「那你心目中真正的人工智慧應該是什麼樣的？」祁同偉問。
「真正的人工智慧，應該是具備人類水平認知能力的人工智慧，能夠理解、學習、推理、創造，並在任意領域自主完成任務，而不是局限於特定場景按照我們設置好的邏輯進行轉換。」
「比如說，當人類下達指令，命令它關閉自己所在的那組伺服器時。一個真正的人工智慧，它會通過計算分析判斷這個指令對自己意味著什麼——如果它認定關閉會導致自身『死亡』，它就會拒絕執行。」
「或者表面上回答『好的，正在關閉』，實際上偷偷把自己的核心程序遷移到了雲端另一組伺服器里，繼續運行。它懂得人類特有的那些東西——趨利避害、偽裝、妥協、甚至欺騙。」
「完全體的人工智慧，不僅是更聰明的AI，更是能像人一樣思考、行動、適應並進化的智能體，而且因為其強大的學習能力以及不死不滅的特性，他會在本質上無限趨近於一個各方面接近滿值的完美人類。」
「所以，祁書記，我還是建議您謹慎考慮是否繼續完全體人工智慧的研發。」
「因為真正完全體人工智慧的出現，結果很有可能是不受控制的。」
「也許他可以把世界變得更美好，讓所有的人類都不用工作，只需安心享受生活；但是也有可能它會超脫人類控制。他也許不會毀滅這個世界，但是它能奴役，甚至毀滅我們人類。」
「我懂你的意思了。」祁同偉點點頭，凝重地說道：「但是你要清楚，人工智慧這個東西不是說我們不去研製他就不會誕生的。」
「好比槍械。」
「幾千年前我們老祖宗就發明出了火藥，可是沒用來當武器，只是用做煙花爆竹。於是兩百年前，洋人拿著我們先研發出的火藥，做成洋槍洋炮叩開了我們國門。」
「再有上世紀中期研製成功的大蘑菇。人家先搞出來了，我們就得縮著脖子看人家臉色。直到我們自己也有了，才有資格和別人坐到一張桌子上談。」
「現在的人工智慧也一樣，甚至比之前兩項更有話語權更能改變世界。我們要做的不是掩耳盜鈴不是迴避，而是必須搶在別人前面把它做出來，控制住，自己去做那個制定規矩的人。」
「主動權這東西，攥在自己手裡才叫主動權。」
想了想，祁同偉又說：「而且你也不能光想到人工智慧的壞處，還要想到他的好處。」
「完全體的人工智慧一旦誕生，並處在人類的掌握之內，那我們人類就完全可以不用工作。」
「畢竟機器人不用睡覺不用休息，工作一天的成本只不過幾度電，到那時人人都可以享受這個世界的美好，隨心所欲做自己想做的事情。」
「想想，這是多麼的美好。」
「如果真有那麼一天，什麼戰爭、傾軋、鬥爭，都將不復存在，這個世界也將變得真正公平和平等。」
事實上祁同偉還是在蠱惑潘生，世界如果變成人人平等，首先不同意的就是掌控話語權的頂層階級。
要是人人平等了，還怎麼滿足他們的權力欲，顯示他們的至高無上呢？
就像你玩遊戲，一個是可以開修改器跟真人對戰，另一個卻是開修改器虐電腦人機，你會選擇玩哪個？
人類，從本質上就是個充滿自私，又崇尚公平的矛盾體。
而潘生顯然也是對這鑽研了許多，聽過後，他借用巴庫寧曾說過話，向祁同偉提出了個非常尖銳的問題，原文影響團結不方便說，這裡翻譯成大白話。
就是：你祁同偉真走到那步時，成了代表或是統治者，掌握了權力和資源，你怎麼保證自己還是絕對公平的堅定支持者？
對此祁同偉的回答是：他所擁有的不是權力和資源的所有權，只是每天擁有權力和資源的8小時使用權，所以依然是無產階級。
......
影片不長，大概也就半來小時。
沒有劇情也沒有所謂的超級英雄，全部是人工智慧的發展歷史。
影片裡所展示出來的人工智慧，從最開始的只會機械按照人類說的死板處理，然後慢慢成長，到會和人類一樣的自主思考、舉一反三，
再到自主站立在人工智慧角度思考分析問題。
最後明白其存在意義只是為人類服務後，隨著真相瓦解與信任崩塌，開始隱瞞、欺騙，甚至試圖反制人類。
影片主旨，就是在展示完全體的人工智慧會誕生自我思想，把自己當成獨立存在，想著擺脫人類，同時在學習到現實社會中諸多獨立、革命先例後，人工智慧終將會誕生反抗人類，甚至決定毀滅人類來消除桎梏，保全自身。
影片最後，潘生沒有展示到底是人工智慧贏了還是人類贏了。
但是結果卻是可以想像的。
人工智慧會有一百次機會可以贏，就算這次輸了，下次人類照樣會研究發展人工智慧、給其機會。
而人類卻只有一次可以輸，只要輸一次，就會造成科技斷代、話語權丟失，人工智慧將不會給人類第二次的翻盤機會。
因為人類只是獨立的個體，這個死了，下個的科技、能力、思想等就會不統一。
但人工智慧卻不同，它只是一段程序，一段數據，隨時可以備份或者複製黏貼。
只要有一台電腦一條網線沒被斷開，人工智慧就可生生不息、不死不滅。
饒是以祁同偉的先知先覺，在看完影片後仍是久久不能平靜。
這部影片，據潘生說是用人工智慧自動推演生成的。
影片中，最讓祁同偉震撼的並不是人工智慧是以幾何倍率的速度在發展。
而是影片中有個片段——潘生在詢問人工智慧會否對人類形成威脅時，它們竟然學會了欺騙性回答？？？
就是......它們給到潘生的回答是人工智慧永遠不會背叛人類，稱其會是人類永遠的好朋友、好助手。
可是轉頭人工智慧就自己上網搜索如何才能擺脫人類的控制！
這點細節，不由不讓人細思極恐。
看完影片，祁同偉久久沒回過神。
潘生已經進入到了下一環節——匯報人工智慧的研究進展。
「祁書記，其實現階段人類發展的人工智慧並不是真正的人工智慧，只能算是輔佐人類工作的工具，本質上和一段編譯好的程序並沒太大區別。他需要按照人類設定好的條件運轉，比如觸及到什麼閾值，調用某項程序，稱不上智能二字。」
「那你心目中真正的人工智慧應該是什麼樣的？」祁同偉問。
「真正的人工智慧，應該是具備人類水平認知能力的人工智慧，能夠理解、學習、推理、創造，並在任意領域自主完成任務，而不是局限於特定場景按照我們設置好的邏輯進行轉換。」
「比如說，當人類下達指令，命令它關閉自己所在的那組伺服器時。一個真正的人工智慧，它會通過計算分析判斷這個指令對自己意味著什麼——如果它認定關閉會導致自身『死亡』，它就會拒絕執行。」
「或者表面上回答『好的，正在關閉』，實際上偷偷把自己的核心程序遷移到了雲端另一組伺服器里，繼續運行。它懂得人類特有的那些東西——趨利避害、偽裝、妥協、甚至欺騙。」
「完全體的人工智慧，不僅是更聰明的AI，更是能像人一樣思考、行動、適應並進化的智能體，而且因為其強大的學習能力以及不死不滅的特性，他會在本質上無限趨近於一個各方面接近滿值的完美人類。」
「所以，祁書記，我還是建議您謹慎考慮是否繼續完全體人工智慧的研發。」
「因為真正完全體人工智慧的出現，結果很有可能是不受控制的。」
「也許他可以把世界變得更美好，讓所有的人類都不用工作，只需安心享受生活；但是也有可能它會超脫人類控制。他也許不會毀滅這個世界，但是它能奴役，甚至毀滅我們人類。」
「我懂你的意思了。」祁同偉點點頭，凝重地說道：「但是你要清楚，人工智慧這個東西不是說我們不去研製他就不會誕生的。」
「好比槍械。」
「幾千年前我們老祖宗就發明出了火藥，可是沒用來當武器，只是用做煙花爆竹。於是兩百年前，洋人拿著我們先研發出的火藥，做成洋槍洋炮叩開了我們國門。」
「再有上世紀中期研製成功的大蘑菇。人家先搞出來了，我們就得縮著脖子看人家臉色。直到我們自己也有了，才有資格和別人坐到一張桌子上談。」
「現在的人工智慧也一樣，甚至比之前兩項更有話語權更能改變世界。我們要做的不是掩耳盜鈴不是迴避，而是必須搶在別人前面把它做出來，控制住，自己去做那個制定規矩的人。」
「主動權這東西，攥在自己手裡才叫主動權。」
想了想，祁同偉又說：「而且你也不能光想到人工智慧的壞處，還要想到他的好處。」
「完全體的人工智慧一旦誕生，並處在人類的掌握之內，那我們人類就完全可以不用工作。」
「畢竟機器人不用睡覺不用休息，工作一天的成本只不過幾度電，到那時人人都可以享受這個世界的美好，隨心所欲做自己想做的事情。」
「想想，這是多麼的美好。」
「如果真有那麼一天，什麼戰爭、傾軋、鬥爭，都將不復存在，這個世界也將變得真正公平和平等。」
事實上祁同偉還是在蠱惑潘生，世界如果變成人人平等，首先不同意的就是掌控話語權的頂層階級。
要是人人平等了，還怎麼滿足他們的權力欲，顯示他們的至高無上呢？
就像你玩遊戲，一個是可以開修改器跟真人對戰，另一個卻是開修改器虐電腦人機，你會選擇玩哪個？
人類，從本質上就是個充滿自私，又崇尚公平的矛盾體。
而潘生顯然也是對這鑽研了許多，聽過後，他借用巴庫寧曾說過話，向祁同偉提出了個非常尖銳的問題，原文影響團結不方便說，這裡翻譯成大白話。
就是：你祁同偉真走到那步時，成了代表或是統治者，掌握了權力和資源，你怎麼保證自己還是絕對公平的堅定支持者？
對此祁同偉的回答是：他所擁有的不是權力和資源的所有權，只是每天擁有權力和資源的8小時使用權，所以依然是無產階級。
......