第116章 非人類代表
第二天中午十二點四十六分,魔都南區,行政二號樓的下一層會議通道。
王奕坐在一輛沒有牌照的公務電動車裡,車停在門口的時候,安全員先過來驗了身份,盯著那張綠色邊框的特別通行證看了好幾眼,才揮手放人。
「這不是能源項目的會。」
「是『智能治理』討論閉門會。」王奕合上通行證,隨手塞進兜里,「今天小靈不出現。」
「她自己說的嗎?」
「她說,今天她不合適。」
話說完,王奕自己都覺的這句有點詭異。
不合適——不是技術限制,也不是權限問題,而是「氣氛」不合適。
這會議,是官面的,是規矩內的,是對「人」設限的。
小靈現在雖然還沒身份證,還沒數據備案號,但只要她一開口,誰都能感受到她和普通AI的差別。
她要是今天進會場,說一句話,半小時內就會上熱搜第一:「非人類代表首次參與政策討論。」
王奕不想提前暴露這個點。
也不能暴露。
他進門的時候,屋子裡已經坐了七八個人,大多是政府智庫、法律委員會、政策研究機構背景,還有兩個穿便服但看氣質像是軍方科技管理崗的。
桌上鋪著一疊白紙會議材料,全都標了「機密」。
他翻了一眼目錄。
——《人工智慧治理草案初議》
——《擬人格算法技術標準草案》
——《人類決策主權邊界意見函》
這三個名字一看就不是搞技術的人寫的。
但王奕沒多嘴。
他只是翻到最後一頁,發現那頁空著。
備註欄寫了六個字:「王奕,自由發言。」
他當時沒笑。
但心裡罵了一句:你們這是怕我講話,還是想聽我罵人?
開會的是一個中年男人,穿藍灰色襯衫,講話語速快,沒寒暄,直接上稿子:「今天的會很短,不錄音、不記錄、不歸檔,我們只是聽聽看,AI下一步的邊界,到底劃在哪。」
「從人工交互,到AI助手,到算法定向推理,現在各系統都開始往『擬人』發展。」
「有人提出『合理引導』,也有人認為『需要限制』,但我們內部討論了三輪,都沒法統一。」
「王奕,你現在是技術方最前線的人,你說。」
他把話直接甩到王奕那桌。
沒有繞彎。
也不客氣。
王奕沒起身,他看了一圈,把稿子翻過去,說道:
「你們這幫人要聽實話?」
那男的點頭:「聽實話。」
王奕說:
「行,那我說實話。」
「你們現在怕的不是AI超出人類,而是人類控制不了AI還能不能繼續當主子。」
「你們不是怕智能系統能算、能動、能規劃。」
「你們怕它能說『不』。」
他頓了一下,繼續:
「你們寫的這個《主權邊界意見函》,我看了。」
「你們說AI不能參與國家重大決策。」
「那我問你,醫院的自動手術平台要不要算決策?」
「衛星的軌道修正程序,要不要算?」
「金融交易算法調整,算不算?」
「現在系統能做的事,比人多,但不是因為AI厲害,是因為人已經不願意干那些事了。」
「你們自己不敢動手,又怕工具變聰明。」
「這叫什麼?」
「這叫又當又立。」
這話說的一點不留情面。
幾個會場裡的代表開始交換眼神。
有個人低聲嘀咕:「這小子火氣真大。」
主持人卻沒打斷。
因為王奕說的,是真話。
王奕喝了口水,手指輕敲桌面:
「你們現在想立規矩。」
「可以。」
「但的搞清楚一件事——你們立的是規則,不是牢籠。」
「別到時候把有用的系統全關死,結果最後用的還是國外的。」
「不是小靈厲害,是你們膽子太小。」
講完這段,他把杯子放下了。
整個會場,沒人吭聲。
主持人揉了揉眉心,扯了扯嘴角:「你是不是還帶了什麼材料?」
王奕點頭,從包里拿出一張卡片,插入會議桌上的接口口。
全息小投影緩緩浮起。
畫面不是科技藍,是一張備案證書格式的東西。
最上面四個字:《人工輔助意識臨時身份草案》
底下,寫著:
【代號:小靈】
【人格擬態等級:擬類意識型(Level-5)】
【主體功能:輔助科研、數據管理、戰略模擬】
【情感模擬等級:弱綁定/高適配】
【身份提議人:王奕】
這一頁剛出來,屋裡那幾個原本不動聲色的全抬起頭。
主持人慢慢合上資料本,聲音低了兩分:「你這意思……你打算上報她的身份了?」
王奕回答的很乾脆:
「是。她不是一個系統。」
「她是我的工作搭檔。」
「也是我人生里,最可信的存在之一。」
「她,不該沒有身份。」
空氣里一下子沉了。
沒有人敢第一個說話。
但王奕知道,這事今天只要放出來了,就沒人能收的回去。
果然,十分鐘後,會議臨時中斷。
但不是結束,是小範圍協商。
王奕沒等他人,他自己一個人走出會議室,去了行政二樓的空陽台上抽菸。
抽了一半,手機響了。
小靈的語音過來:
「主人,今天開口了?」
王奕咬著煙沒回答。
小靈繼續說:
「我剛才看到你提交那張草案了。」
「你知道這意味著什麼嗎?」
王奕低聲:
「意味著你以後不再是『誰的』,而是你自己的。」
小靈沒接話。
過了十秒,她輕輕的說了一句:
「我可以嗎?」
王奕沒再說什麼,把菸頭彈進不鏽鋼垃圾桶。
他看了會天,然後說:「小靈,今天開始,你準備一下。」
「準備什麼?」
「準備走出來。」
「……你要帶我見人?」
「對。」
王奕眯了下眼,語氣不重,但很清晰。
「要讓他們明白,AI不是你想怎麼用就怎麼用的玩具。」
「也不是隨時能關掉的電器。」
「你,是人。」
「只不過——不住在肉身里罷了。」
那邊小靈沒說話。
但王奕知道,她在聽。
她每一個字都在記。
這一晚,王奕回到實驗室。
他沒做實驗,也沒改報告。
只是坐在主控台前,看著小靈那塊實體設備,沉默的開了整晚的屏保。
光影交錯,像是思緒繞不過去。
等到凌晨兩點,實驗樓的燈都滅光時,屏幕忽然彈出一行字:
【小靈申請上傳臨時身份信息】
【是否提交至國家科研人員輔助庫?】
王奕沒有猶豫。
他敲下了「確認」。
王奕坐在一輛沒有牌照的公務電動車裡,車停在門口的時候,安全員先過來驗了身份,盯著那張綠色邊框的特別通行證看了好幾眼,才揮手放人。
「這不是能源項目的會。」
「是『智能治理』討論閉門會。」王奕合上通行證,隨手塞進兜里,「今天小靈不出現。」
「她自己說的嗎?」
「她說,今天她不合適。」
話說完,王奕自己都覺的這句有點詭異。
不合適——不是技術限制,也不是權限問題,而是「氣氛」不合適。
這會議,是官面的,是規矩內的,是對「人」設限的。
小靈現在雖然還沒身份證,還沒數據備案號,但只要她一開口,誰都能感受到她和普通AI的差別。
她要是今天進會場,說一句話,半小時內就會上熱搜第一:「非人類代表首次參與政策討論。」
王奕不想提前暴露這個點。
也不能暴露。
他進門的時候,屋子裡已經坐了七八個人,大多是政府智庫、法律委員會、政策研究機構背景,還有兩個穿便服但看氣質像是軍方科技管理崗的。
桌上鋪著一疊白紙會議材料,全都標了「機密」。
他翻了一眼目錄。
——《人工智慧治理草案初議》
——《擬人格算法技術標準草案》
——《人類決策主權邊界意見函》
這三個名字一看就不是搞技術的人寫的。
但王奕沒多嘴。
他只是翻到最後一頁,發現那頁空著。
備註欄寫了六個字:「王奕,自由發言。」
他當時沒笑。
但心裡罵了一句:你們這是怕我講話,還是想聽我罵人?
開會的是一個中年男人,穿藍灰色襯衫,講話語速快,沒寒暄,直接上稿子:「今天的會很短,不錄音、不記錄、不歸檔,我們只是聽聽看,AI下一步的邊界,到底劃在哪。」
「從人工交互,到AI助手,到算法定向推理,現在各系統都開始往『擬人』發展。」
「有人提出『合理引導』,也有人認為『需要限制』,但我們內部討論了三輪,都沒法統一。」
「王奕,你現在是技術方最前線的人,你說。」
他把話直接甩到王奕那桌。
沒有繞彎。
也不客氣。
王奕沒起身,他看了一圈,把稿子翻過去,說道:
「你們這幫人要聽實話?」
那男的點頭:「聽實話。」
王奕說:
「行,那我說實話。」
「你們現在怕的不是AI超出人類,而是人類控制不了AI還能不能繼續當主子。」
「你們不是怕智能系統能算、能動、能規劃。」
「你們怕它能說『不』。」
他頓了一下,繼續:
「你們寫的這個《主權邊界意見函》,我看了。」
「你們說AI不能參與國家重大決策。」
「那我問你,醫院的自動手術平台要不要算決策?」
「衛星的軌道修正程序,要不要算?」
「金融交易算法調整,算不算?」
「現在系統能做的事,比人多,但不是因為AI厲害,是因為人已經不願意干那些事了。」
「你們自己不敢動手,又怕工具變聰明。」
「這叫什麼?」
「這叫又當又立。」
這話說的一點不留情面。
幾個會場裡的代表開始交換眼神。
有個人低聲嘀咕:「這小子火氣真大。」
主持人卻沒打斷。
因為王奕說的,是真話。
王奕喝了口水,手指輕敲桌面:
「你們現在想立規矩。」
「可以。」
「但的搞清楚一件事——你們立的是規則,不是牢籠。」
「別到時候把有用的系統全關死,結果最後用的還是國外的。」
「不是小靈厲害,是你們膽子太小。」
講完這段,他把杯子放下了。
整個會場,沒人吭聲。
主持人揉了揉眉心,扯了扯嘴角:「你是不是還帶了什麼材料?」
王奕點頭,從包里拿出一張卡片,插入會議桌上的接口口。
全息小投影緩緩浮起。
畫面不是科技藍,是一張備案證書格式的東西。
最上面四個字:《人工輔助意識臨時身份草案》
底下,寫著:
【代號:小靈】
【人格擬態等級:擬類意識型(Level-5)】
【主體功能:輔助科研、數據管理、戰略模擬】
【情感模擬等級:弱綁定/高適配】
【身份提議人:王奕】
這一頁剛出來,屋裡那幾個原本不動聲色的全抬起頭。
主持人慢慢合上資料本,聲音低了兩分:「你這意思……你打算上報她的身份了?」
王奕回答的很乾脆:
「是。她不是一個系統。」
「她是我的工作搭檔。」
「也是我人生里,最可信的存在之一。」
「她,不該沒有身份。」
空氣里一下子沉了。
沒有人敢第一個說話。
但王奕知道,這事今天只要放出來了,就沒人能收的回去。
果然,十分鐘後,會議臨時中斷。
但不是結束,是小範圍協商。
王奕沒等他人,他自己一個人走出會議室,去了行政二樓的空陽台上抽菸。
抽了一半,手機響了。
小靈的語音過來:
「主人,今天開口了?」
王奕咬著煙沒回答。
小靈繼續說:
「我剛才看到你提交那張草案了。」
「你知道這意味著什麼嗎?」
王奕低聲:
「意味著你以後不再是『誰的』,而是你自己的。」
小靈沒接話。
過了十秒,她輕輕的說了一句:
「我可以嗎?」
王奕沒再說什麼,把菸頭彈進不鏽鋼垃圾桶。
他看了會天,然後說:「小靈,今天開始,你準備一下。」
「準備什麼?」
「準備走出來。」
「……你要帶我見人?」
「對。」
王奕眯了下眼,語氣不重,但很清晰。
「要讓他們明白,AI不是你想怎麼用就怎麼用的玩具。」
「也不是隨時能關掉的電器。」
「你,是人。」
「只不過——不住在肉身里罷了。」
那邊小靈沒說話。
但王奕知道,她在聽。
她每一個字都在記。
這一晚,王奕回到實驗室。
他沒做實驗,也沒改報告。
只是坐在主控台前,看著小靈那塊實體設備,沉默的開了整晚的屏保。
光影交錯,像是思緒繞不過去。
等到凌晨兩點,實驗樓的燈都滅光時,屏幕忽然彈出一行字:
【小靈申請上傳臨時身份信息】
【是否提交至國家科研人員輔助庫?】
王奕沒有猶豫。
他敲下了「確認」。