第653章 人工智慧的邊界
第653章 人工智慧的邊界
爆不爆一方面要看風向，另外一方面要看對象。
輿論轉向往往都只在一瞬間。
比亞迪可以是國產製造的標杆，是電池技術與產業鏈整合的極致體現，是在全球新能源賽道上硬生生擠出一席之地的樣本。
在另一種敘事裡，被放大為高負債、高擴張、現金流緊繃的典型，一旦周期反轉，風險被無限放大。
華為可以是方法論的勝利者，從通信設備到智慧型手機，再到智能汽車解決方案，幾乎每進入一個領域都能重構規則。
同樣的，高度集中權力與資源的體系，在光環之下承受著分紅壓力、債務結構與外部環境的多重擠壓，被質疑是否還能持續複製奇蹟。
小米可以是最懂年輕人的品牌，用性價比與生態鏈構建起龐大的用戶心智，把參與感做成一種商業模式。
也可以在另一種聲音里，被批評為過度依賴營銷敘事與流量紅利，產品力被稀釋，品牌溢價難以真正建立，在高端化與規模化之間反覆搖擺。
歸根結底，企業本身沒有那麼快發生變化，變化的是觀察它的角度。
當資本需要故事時，優點會被組織成邏輯；當市場開始懷疑時，同樣的事實會被重新排列，變成隱患。
Pony不知道林燃知不知道這點，但他顯然深諳此道。
從抄襲帝國到最懂投資的巨頭，騰訊一直是那個騰訊，靠體量生吃競爭對手，但輿論卻一輪又一輪地反轉，比烙炊餅翻的還要更快。
「林生，因為是你，所以輿論沒有爆，沒有聚焦在深紅端。」
「對深紅科技的指責甚至還沒有對騰訊的指責多。」Pony想到這裡，不由得無奈苦笑。
他接著說道：「現在絕大部分的負面輿論都體現在使用人員，也就是那些管理者身上。」
「說老闆濫用，說管理者越界，說有人把工具當成鞭子。」
他停了一下，像是在組織措辭，「但這只是第一階段。」
「現在的敘事是工具是中性的，問題出在使用者。」Pony繼續說道，「但你我都知道，這種敘事維持不了太久。」
「一旦出現幾個足夠極端的案例，輿論會自動升級。
「從人用錯了，變成為什麼可以這麼用。」
「再往後，就是這個東西本身就有問題。」
林燃說，「所以你才會來找我。」
「對，過去看過太多，輿論無限滑坡的事件，導致官方哪怕不想下場都被逼的不得不下場。」Pony沒有否認，「我來找你之前，想到是我們現在還有時間，把邊界自己畫出來。」
「結果沒想到，你早就已經把邊界畫好了。」
Pony為對方的老練所折服。
林燃回答道：「你說的很對，我們不但現在要動，還要和用戶進行充分的溝通，告訴他們我們是怎麼想的。」
「人工智慧作為個體介入到生活中，這是第一次，大家都沒有經驗。」
「OpenClaw被調侃，說過去這玩意叫病毒，現在它叫小龍蝦。」
「我們未來也會面臨同樣的問題。」
「我們需要讓用戶知道，整個生態大家一起在完善。」
「他們提供問題，我們解決問題。」
「所有涉及他人狀態判斷的能力，默認關閉。」
「包括攝像頭、行為分析、專注度評估，只允許個人使用場景開啟。」
「企業級調用，需要雙重授權，而且必須可追溯。」
「虹不會再直接給出績效判斷、人員評價這一類結論。」
「它連數據都不會輸出，更別提代替決策。」
這就不得不提微信的好處，因為載體是微信，所以用戶天然就包括了人臉識別這一重驗證場景。
「反饋機制上也會有所限制，一旦檢測到高強度、持續性控制行為，會觸發提示，甚至主動降級能力。」
Pony鼓掌道：「我沒有意見。」
林燃說：「你肯定沒有意見，這對騰訊來說，相當於主動閹割產品能力，降低產品成本，還不會引起廣大消費者不滿的行為。」
「另外我們還需要在社交媒體上強調一下，未來有類似的產品，這不是我們的問題。」
「目前我的想法是，第一層，是權限。」
Pony問：「你是打算切割？」
林燃說：「我們需要提前定義邊界，現在市場上一定會有人跟進，而且會有人走得更激進。」
「他們不會像我們一樣收手。」
「甚至會把全接管當成賣點。」
「尤其是一些ToB的企業，這對他們來說是最好的賣點。」
「對企業來說，他們可以把管理層幹掉，有什麼比二十四小時無休的人工智慧更好的管理層嗎？」
「順便壓榨員工的勞動力。」
「這就是最好的開源節流。」
Pony點了點頭，「這個我也在看，已經有團隊在試類似的方向看了。」
「所以我們要先說清楚。」林燃繼續說道，「哪些事情我們不做。」
「用戶、產品、平台，這三層要拆開，這三件事，不能混在一起。」
「等事情真的出問題，再來區分，是來不及的。」
林燃說完之後長嘆一聲：「其實國內還不用太擔心，我們一旦限制了，燕京是不會同意普及的。」
Pony反問：「真不會嗎？」
林燃堅定道：「不會，我們從一開始就杜絕的話，燕京不會，對燕京來說要做的是降壓而不是加壓。」
「如果失控，首先受衝擊的，是社會結構本身。」」
「只是國外肯定會，我們不做，矽谷的大廠會沿著這個方向做。」
Pony說：「這是好事啊。」
「矽谷如果往這個方向走，而且走得足夠徹底，其實是在幫我們做兩件事。」
「他們幫我們把邊界跑出來。」
「什麼地方會出問題，什麼強度會引發反彈，哪些場景會踩線，這些東西，本來需要我們自己一點點試錯，現在有人替我們去試。」
「當他們把能力拉到極限，問題就成了社會問題。」
「一旦那一步發生，全球討論的焦點就會改變。」
「如果矽谷真的往這個方向走，那他們內部也會出現分裂。」
「企業、監管、公眾之間的衝突會被提前激化。」
林燃說：「沒錯，我擔心的就是這個問題。」
「到了那一步，一旦社會矛盾大到一定程度，被推出來背鍋的一定是華人。」
「在阿美莉卡，做ai拿高薪的本來就以華人居多。」
「華國這個強大的祖國，在太平洋另一側，幫他們吸的仇恨也夠多。」
「到了那一步，華人開發人工智慧監控黑人幹活，新世紀的莊園，疊加2028年的總統大選，華人群體百分百會被祭旗。」
「被推出來祭旗的總不能是印度人吧，阿美莉卡的印度人仇恨值還不夠，要是楓葉國的那還差不多。」
「這才是我所擔心的。」
Pony則安慰道：「華人那麼多，不會怎麼樣的。」
林燃沒有說話，辦公室陷入了沉默。
兩人都很清楚，這不過是安慰人的說法。
林燃搖了搖頭：「總之我們做好我們的事情，我管不了那麼多。」
他內心則補了一句，在這個時空確實管不了那麼多。
「我打算強調虹是個人輔助系統，不是管理工具，明確禁止未經授權的他人狀態分析，公開我們已經做的限制，提前預警，我們不做，別人未必不做。」
公告發出的那一刻，平台的討論熱度瞬間被點燃。
第一批反應，是支持。
「終於有人出來設規則了。」
「這東西確實該管一管。」
「起碼比放任要好。」
這部分聲音，主要來自普通用戶。
他們對邊界本身並不反感，甚至覺得這是負責任的表現。
但第二批聲音，很快出現。
已經嘗到控制紅利的人，他們的反應最激烈，他們自然不滿。
只是這部分人本來就不多，聲音一旦在社交媒體上冒出來，很快就被更大的流量淹沒了。
評論區幾乎是瞬間被占領，節奏統一得驚人，幾條高贊回復掛在最上面，語氣乾脆直接，沒有太多修飾。
「開始閹割功能了？」有人質疑。
下面很快有人接話：「你這叫功能？你這叫監控。」
另一條抱怨被頂上來：「我花錢就是為了效率，現在你告訴我不能用？
緊接著的回覆幾乎是一邊倒：「效率是你自己的，不是壓別人的。」
「你要效率可以，別拿別人當工具人。
2
「花錢買助手，不是買鞭子。」
還有人把話說得更直接：「你要的不是AI，是一個不會反抗的員工。」
「企業用戶是不是被針對了？」這條評論下，回復更多。
「就這也叫針對？你這種就適合找個路燈掛上去，等掛上去之後再來跟我談針對！」
「國內這些變態企業能不能死一死啊。」
「賺幾百億不給員工漲薪，創始人大手筆分紅，都已經做到世界第一了對員工還是壓榨也就算了，現在還開始搞起賽博監工，還好深紅的創始人是九零後，多少有點底線。」
「你要管理，可以自己管，別把責任外包給系統。」
「之前能這麼用，是因為沒人管，不代表這件事本來就合理。」
這類回復的點讚數往往更高。
輿論的風向最開始很明確。
普通用戶的直覺判斷非常一致，他們可以接受幫助自己的工具，但對被他人用工具管理這件事本能地抗拒。
一直到未成年人使用虹被限制之後，這部分父母和管理者開始合流，提出了反對聲，讓整個輿論場被攪渾。
深紅的處理很乾脆，沒有徵求意見，沒有灰度測試，補丁上線的同時，所有已識別的未成年人帳號被直接限制使用，剩餘訂閱費用全部原路退回。
「基於用戶心理健康與認知發展考慮，未成年人暫不適合使用虹。系統已自動關閉相關權限，並完成退款處理。」
理由也很簡單。
「尚不具備區分虛擬與現實的能力。」
家長群體的反對聲如同滔天巨浪，本來自己管小孩哪有配備人工智慧助手幫忙管輕鬆啊。
而且人工智慧的知識儲備、教育學常識等各方面能力都遠超他們。
這也關乎到他們切身利益，越懂行的家長，就越知道這是多大的損失。
其中以HD區雞娃家長為首，他們是最不滿的群體，也是聲音最大，能影響範圍最廣的一幫人。
「你們憑什麼替我們做決定？」
「我們是家長，我們有權決定孩子用不用。」
「你們這是直接越過用戶。」
與此同時，那些之前因為功能被限制而不滿的管理人員，也找到了新的發力點。
他們的表達方式開始發生變化。
「連家長的選擇權都可以剝奪？」
「今天是未成年人，明天是不是成年人也要限制？」
「這已經不是產品問題，是權力問題。」
兩個原本邏輯完全不同的群體，在這一點上出現了短暫的重疊。
他們的訴求不一樣，但指向相同，都是你不該替我決定。
評論區開始出現拉扯。
支持與反對開始交錯。
有人討論心理健康。
有人討論用戶權利。
有人開始上升到技術公司是否越界的問題。
「林總，燕京那邊有聲音，意思是說咱們這邊應該要開放針對未成年人的權限，只是增加一道程序，由家長確認就行，說我們這樣一刀切也不是辦法。」宋南平找上門來。
他來的主要目的不是這個，他來是想著給林燃展示全新隱身無人機在前線的作戰情況。
這不過是他的開場白。
林燃說：「我們不開放，家長點了同意，不代表風險不存在，只是把風險從系統，轉移到了個體。」
「這個東西，本質上不是權限問題。」林燃繼續說道，「是能力和對象是否匹配的問題。」
「未成年人沒有穩定的自我邊界，也沒有足夠的判斷能力。」
「你給他一個高強度、持續反饋的智能體，他很容易建立依附關係。」
「給燕京那邊回復，說我們不做，也有的是公司會做，他們巴不得去爭取這部分用戶。」
宋南平遲疑道：「難道我們就把這部分用戶讓給其他企業？這部分用戶規模不小，而且從小開始用，這可是長線生意。」
林燃堅持道：「我們不做恰恰是負責的表現，我們的產品擬人程度最高，最容易建立依附關係，其他企業很容易做成管理工具，那樣危害反而沒有我們這麼大。」
宋南平聽完之後點頭：「好，我就這麼回那邊，這是前線的最新情報，您看看。」
他從公文包里掏出一個看不出品牌的平板電腦，放到林燃辦公桌上。
這裡的話題已經準備切換到更重要的事情上了。
爆不爆一方面要看風向，另外一方面要看對象。
輿論轉向往往都只在一瞬間。
比亞迪可以是國產製造的標杆，是電池技術與產業鏈整合的極致體現，是在全球新能源賽道上硬生生擠出一席之地的樣本。
在另一種敘事裡，被放大為高負債、高擴張、現金流緊繃的典型，一旦周期反轉，風險被無限放大。
華為可以是方法論的勝利者，從通信設備到智慧型手機，再到智能汽車解決方案，幾乎每進入一個領域都能重構規則。
同樣的，高度集中權力與資源的體系，在光環之下承受著分紅壓力、債務結構與外部環境的多重擠壓，被質疑是否還能持續複製奇蹟。
小米可以是最懂年輕人的品牌，用性價比與生態鏈構建起龐大的用戶心智，把參與感做成一種商業模式。
也可以在另一種聲音里，被批評為過度依賴營銷敘事與流量紅利，產品力被稀釋，品牌溢價難以真正建立，在高端化與規模化之間反覆搖擺。
歸根結底，企業本身沒有那麼快發生變化，變化的是觀察它的角度。
當資本需要故事時，優點會被組織成邏輯；當市場開始懷疑時，同樣的事實會被重新排列，變成隱患。
Pony不知道林燃知不知道這點，但他顯然深諳此道。
從抄襲帝國到最懂投資的巨頭，騰訊一直是那個騰訊，靠體量生吃競爭對手，但輿論卻一輪又一輪地反轉，比烙炊餅翻的還要更快。
「林生，因為是你，所以輿論沒有爆，沒有聚焦在深紅端。」
「對深紅科技的指責甚至還沒有對騰訊的指責多。」Pony想到這裡，不由得無奈苦笑。
他接著說道：「現在絕大部分的負面輿論都體現在使用人員，也就是那些管理者身上。」
「說老闆濫用，說管理者越界，說有人把工具當成鞭子。」
他停了一下，像是在組織措辭，「但這只是第一階段。」
「現在的敘事是工具是中性的，問題出在使用者。」Pony繼續說道，「但你我都知道，這種敘事維持不了太久。」
「一旦出現幾個足夠極端的案例，輿論會自動升級。
「從人用錯了，變成為什麼可以這麼用。」
「再往後，就是這個東西本身就有問題。」
林燃說，「所以你才會來找我。」
「對，過去看過太多，輿論無限滑坡的事件，導致官方哪怕不想下場都被逼的不得不下場。」Pony沒有否認，「我來找你之前，想到是我們現在還有時間，把邊界自己畫出來。」
「結果沒想到，你早就已經把邊界畫好了。」
Pony為對方的老練所折服。
林燃回答道：「你說的很對，我們不但現在要動，還要和用戶進行充分的溝通，告訴他們我們是怎麼想的。」
「人工智慧作為個體介入到生活中，這是第一次，大家都沒有經驗。」
「OpenClaw被調侃，說過去這玩意叫病毒，現在它叫小龍蝦。」
「我們未來也會面臨同樣的問題。」
「我們需要讓用戶知道，整個生態大家一起在完善。」
「他們提供問題，我們解決問題。」
「所有涉及他人狀態判斷的能力，默認關閉。」
「包括攝像頭、行為分析、專注度評估，只允許個人使用場景開啟。」
「企業級調用，需要雙重授權，而且必須可追溯。」
「虹不會再直接給出績效判斷、人員評價這一類結論。」
「它連數據都不會輸出，更別提代替決策。」
這就不得不提微信的好處，因為載體是微信，所以用戶天然就包括了人臉識別這一重驗證場景。
「反饋機制上也會有所限制，一旦檢測到高強度、持續性控制行為，會觸發提示，甚至主動降級能力。」
Pony鼓掌道：「我沒有意見。」
林燃說：「你肯定沒有意見，這對騰訊來說，相當於主動閹割產品能力，降低產品成本，還不會引起廣大消費者不滿的行為。」
「另外我們還需要在社交媒體上強調一下，未來有類似的產品，這不是我們的問題。」
「目前我的想法是，第一層，是權限。」
Pony問：「你是打算切割？」
林燃說：「我們需要提前定義邊界，現在市場上一定會有人跟進，而且會有人走得更激進。」
「他們不會像我們一樣收手。」
「甚至會把全接管當成賣點。」
「尤其是一些ToB的企業，這對他們來說是最好的賣點。」
「對企業來說，他們可以把管理層幹掉，有什麼比二十四小時無休的人工智慧更好的管理層嗎？」
「順便壓榨員工的勞動力。」
「這就是最好的開源節流。」
Pony點了點頭，「這個我也在看，已經有團隊在試類似的方向看了。」
「所以我們要先說清楚。」林燃繼續說道，「哪些事情我們不做。」
「用戶、產品、平台，這三層要拆開，這三件事，不能混在一起。」
「等事情真的出問題，再來區分，是來不及的。」
林燃說完之後長嘆一聲：「其實國內還不用太擔心，我們一旦限制了，燕京是不會同意普及的。」
Pony反問：「真不會嗎？」
林燃堅定道：「不會，我們從一開始就杜絕的話，燕京不會，對燕京來說要做的是降壓而不是加壓。」
「如果失控，首先受衝擊的，是社會結構本身。」」
「只是國外肯定會，我們不做，矽谷的大廠會沿著這個方向做。」
Pony說：「這是好事啊。」
「矽谷如果往這個方向走，而且走得足夠徹底，其實是在幫我們做兩件事。」
「他們幫我們把邊界跑出來。」
「什麼地方會出問題，什麼強度會引發反彈，哪些場景會踩線，這些東西，本來需要我們自己一點點試錯，現在有人替我們去試。」
「當他們把能力拉到極限，問題就成了社會問題。」
「一旦那一步發生，全球討論的焦點就會改變。」
「如果矽谷真的往這個方向走，那他們內部也會出現分裂。」
「企業、監管、公眾之間的衝突會被提前激化。」
林燃說：「沒錯，我擔心的就是這個問題。」
「到了那一步，一旦社會矛盾大到一定程度，被推出來背鍋的一定是華人。」
「在阿美莉卡，做ai拿高薪的本來就以華人居多。」
「華國這個強大的祖國，在太平洋另一側，幫他們吸的仇恨也夠多。」
「到了那一步，華人開發人工智慧監控黑人幹活，新世紀的莊園，疊加2028年的總統大選，華人群體百分百會被祭旗。」
「被推出來祭旗的總不能是印度人吧，阿美莉卡的印度人仇恨值還不夠，要是楓葉國的那還差不多。」
「這才是我所擔心的。」
Pony則安慰道：「華人那麼多，不會怎麼樣的。」
林燃沒有說話，辦公室陷入了沉默。
兩人都很清楚，這不過是安慰人的說法。
林燃搖了搖頭：「總之我們做好我們的事情，我管不了那麼多。」
他內心則補了一句，在這個時空確實管不了那麼多。
「我打算強調虹是個人輔助系統，不是管理工具，明確禁止未經授權的他人狀態分析，公開我們已經做的限制，提前預警，我們不做，別人未必不做。」
公告發出的那一刻，平台的討論熱度瞬間被點燃。
第一批反應，是支持。
「終於有人出來設規則了。」
「這東西確實該管一管。」
「起碼比放任要好。」
這部分聲音，主要來自普通用戶。
他們對邊界本身並不反感，甚至覺得這是負責任的表現。
但第二批聲音，很快出現。
已經嘗到控制紅利的人，他們的反應最激烈，他們自然不滿。
只是這部分人本來就不多，聲音一旦在社交媒體上冒出來，很快就被更大的流量淹沒了。
評論區幾乎是瞬間被占領，節奏統一得驚人，幾條高贊回復掛在最上面，語氣乾脆直接，沒有太多修飾。
「開始閹割功能了？」有人質疑。
下面很快有人接話：「你這叫功能？你這叫監控。」
另一條抱怨被頂上來：「我花錢就是為了效率，現在你告訴我不能用？
緊接著的回覆幾乎是一邊倒：「效率是你自己的，不是壓別人的。」
「你要效率可以，別拿別人當工具人。
2
「花錢買助手，不是買鞭子。」
還有人把話說得更直接：「你要的不是AI，是一個不會反抗的員工。」
「企業用戶是不是被針對了？」這條評論下，回復更多。
「就這也叫針對？你這種就適合找個路燈掛上去，等掛上去之後再來跟我談針對！」
「國內這些變態企業能不能死一死啊。」
「賺幾百億不給員工漲薪，創始人大手筆分紅，都已經做到世界第一了對員工還是壓榨也就算了，現在還開始搞起賽博監工，還好深紅的創始人是九零後，多少有點底線。」
「你要管理，可以自己管，別把責任外包給系統。」
「之前能這麼用，是因為沒人管，不代表這件事本來就合理。」
這類回復的點讚數往往更高。
輿論的風向最開始很明確。
普通用戶的直覺判斷非常一致，他們可以接受幫助自己的工具，但對被他人用工具管理這件事本能地抗拒。
一直到未成年人使用虹被限制之後，這部分父母和管理者開始合流，提出了反對聲，讓整個輿論場被攪渾。
深紅的處理很乾脆，沒有徵求意見，沒有灰度測試，補丁上線的同時，所有已識別的未成年人帳號被直接限制使用，剩餘訂閱費用全部原路退回。
「基於用戶心理健康與認知發展考慮，未成年人暫不適合使用虹。系統已自動關閉相關權限，並完成退款處理。」
理由也很簡單。
「尚不具備區分虛擬與現實的能力。」
家長群體的反對聲如同滔天巨浪，本來自己管小孩哪有配備人工智慧助手幫忙管輕鬆啊。
而且人工智慧的知識儲備、教育學常識等各方面能力都遠超他們。
這也關乎到他們切身利益，越懂行的家長，就越知道這是多大的損失。
其中以HD區雞娃家長為首，他們是最不滿的群體，也是聲音最大，能影響範圍最廣的一幫人。
「你們憑什麼替我們做決定？」
「我們是家長，我們有權決定孩子用不用。」
「你們這是直接越過用戶。」
與此同時，那些之前因為功能被限制而不滿的管理人員，也找到了新的發力點。
他們的表達方式開始發生變化。
「連家長的選擇權都可以剝奪？」
「今天是未成年人，明天是不是成年人也要限制？」
「這已經不是產品問題，是權力問題。」
兩個原本邏輯完全不同的群體，在這一點上出現了短暫的重疊。
他們的訴求不一樣，但指向相同，都是你不該替我決定。
評論區開始出現拉扯。
支持與反對開始交錯。
有人討論心理健康。
有人討論用戶權利。
有人開始上升到技術公司是否越界的問題。
「林總，燕京那邊有聲音，意思是說咱們這邊應該要開放針對未成年人的權限，只是增加一道程序，由家長確認就行，說我們這樣一刀切也不是辦法。」宋南平找上門來。
他來的主要目的不是這個，他來是想著給林燃展示全新隱身無人機在前線的作戰情況。
這不過是他的開場白。
林燃說：「我們不開放，家長點了同意，不代表風險不存在，只是把風險從系統，轉移到了個體。」
「這個東西，本質上不是權限問題。」林燃繼續說道，「是能力和對象是否匹配的問題。」
「未成年人沒有穩定的自我邊界，也沒有足夠的判斷能力。」
「你給他一個高強度、持續反饋的智能體，他很容易建立依附關係。」
「給燕京那邊回復，說我們不做，也有的是公司會做，他們巴不得去爭取這部分用戶。」
宋南平遲疑道：「難道我們就把這部分用戶讓給其他企業？這部分用戶規模不小，而且從小開始用，這可是長線生意。」
林燃堅持道：「我們不做恰恰是負責的表現，我們的產品擬人程度最高，最容易建立依附關係，其他企業很容易做成管理工具，那樣危害反而沒有我們這麼大。」
宋南平聽完之後點頭：「好，我就這麼回那邊，這是前線的最新情報，您看看。」
他從公文包里掏出一個看不出品牌的平板電腦，放到林燃辦公桌上。
這裡的話題已經準備切換到更重要的事情上了。