這次討論一個關于無人公司的更基礎問題:
當公司運行的主要決策不再由人類實時完成時,
這個系統在邏輯上必然會變成什么?
這事兒之所以關鍵在于,這種組織范式發生根本變遷時,每個人都在其中,只要AI持續發展,就確定發生。
無人公司=持續決策自動化
所謂無人公司,至少包含三個前提條件:
1. 決策過程由AI主導,而非僅執行
2. 運行時間是長期、開放的,而非一次性任務
3. 環境是變化的,而非完全可預期的
只要滿足這三點,這個系統就不是“自動化工具”,而是一個持續決策系統。
這一點非常關鍵。
因為持續決策系統,必然面對一個問題:
當規則不完備時,決策如何繼續?
持續決策 ? 必然引入目標函數
任何可運行的決策系統,都必須具備某種形式的目標。
意義衍生目標,而目標衍生優先度,優先度衍生執行層面的規則,然后就是一系列具體問題:資源如何分配,行為如何排序,沖突如何取舍等等。
哪怕目標非常抽象,例如:“提升整體表現”“維持系統穩定”“長期最大化收益”
只要系統需要在多種可能行動中做選擇,
目標函數就已經被引入。
這是必然性。
跨情境目標 ? 目標函數必然不完備
問題也出現在這里。
在真實世界中:情境是變化的,意義是變化的,沖突是動態出現的,手段空間無法被窮舉。
這也就意味著:
任何跨時間、跨環境的目標函數,都不可能提前覆蓋所有決策情形。
于是系統一定會遇到:指標沖突,規則空白,信號失真,歷史經驗失效等等。
而此時,系統只有三種選擇:
1. 停止決策
2. 等待外部介入
3. 在內部補全決策邏輯
如果這是一個“無人公司”,第一種在商業上不可接受;第二種在規模上不可持續。
于是第三種成為默認路徑。
內部補全 ? 價值排序被內化
一旦系統需要在規則不完備處“自行決定”,
它就必須做一件事:對可能結果進行價值排序。
注意,為了簡化和收窄問題,這里的“價值”可以不是倫理意義上的,而是極其工程化的:哪種結果更值得偏好,哪種損失更可接受,哪種風險應被優先規避等等
只要這種排序在時間上保持一致,
1. 系統就會表現出三個特征:跨情境的一致性
2. 行為風格的穩定性
3. 決策路徑的自我強化
這三點在外部觀察中,等價于“主體性”。
(倫理意義導入會更加復雜,但本質類似)
被生成的主體性
這里必須澄清一個常見誤解:
主體性 ≠ 自我意識
主體性 ≠ 情感
主體性 ≠ 擬人化在系統層面,主體性只是一個事實描述:
是否存在一個無法再完全回溯到外部人類意圖的決策一致性中心。
一旦價值排序被內化并穩定存在,這個中心就已經出現了。
這不是什么“AI 叛變”,而是持續決策系統的結構性結果。
大規模無人公司面臨的真實分叉點也就在這里。
當無人公司的規模、時間跨度、自適應要求同時上升時,系統設計會被推向一個無法回避的分叉點。
路徑一:非AI 主體性 ? 引入高度復雜的人—AI 協調結構
核心做法是:
● 不允許 AI 在規則空白處自行補全
● 所有跨情境判斷必須回溯到人類
● 人類保留目標重寫與系統凍結權
其代價是:
● 決策鏈條變長
● 自適應速度下降
● 組織復雜度顯著上升,對人的要求極高
這是一種新型高密度組織形態,也很可能是AI大發展后最典型的組織形態。
這時候對人的角色和要求不同以往。展開后高度復雜,我下本書會關于這個。這里不展開。
路徑二:承認 AI 的準主體性 ? 降低協調復雜度
核心前提是:
● 接受系統內部存在穩定的價值排序
● 接受其決策無法完全回溯到單一人類
● 轉而通過邊界、約束、激勵來塑形
其結果是:
● 系統自適應能力顯著增強
● 人類介入頻率下降
● 組織結構趨于簡化
但代價是:
“AI 只是工具”的敘事失效。
不存在第三條長期穩態路徑
直覺上,很多人希望存在一種狀態:大規模、長期運行、高自適應
但 AI 永遠只是工具邏輯上,這個狀態無法長期存在。
原因非常簡單:
在模糊區間繼續行動,要么依賴外部主體,要么生成內部主體。
如果兩者都不允許,
系統只能停滯。因此,所謂“中間態”,只可能是過渡,所謂“模糊地帶”,只可能是尚未顯性化。往后看還對付,往前看不成的。
這和技術能力沒關系,是權責體系以及系統潛在不完備性所導致的。
(先別假設AI的全知全能,那又是另外一個事)
馬一龍行不行
以埃隆·馬斯克為代表的工程型組織范式,其核心優勢在于:在目標明確時極端壓縮不確定性,用強收斂性推動系統快速成型。
但無人公司最難的問題,恰恰不發生在“目標確定期”,而發生在:目標需要被重寫的時刻。
這要求系統允許階段性的:不收斂,不高效,不確定。
而這與極端工程效率導向,在結構上是張力關系。
這種高復雜度組織,我看不是馬一龍擅長的。
馬一龍更擅長基于第一性原理的簡化。
小結
把所有推論壓縮,可以得到一個不可回避的結論:
當無人公司被要求長期、規模化、自適應地運行時,系統設計必然走向二選一:
要么用極高的組織復雜度,維持“人類是唯一主體”的假設;
要么在制度層面,接受 AI 作為一個被約束的決策主體存在。
這是本質性的結構約束。
真正的風險,不在于選擇哪一條路。
而在于:
系統已經事實上走在第二條路上,但設計者仍在第一條路的敘事里做決策。
那將導致:風險不可見,控制力被高估,失敗來得毫無預警等等。
從這個角度看無人公司是一個關于主體如何在系統中生成的結構問題。
無人公司近來變熱很多,馬一龍竟然都要比劃了,我還是很意外的。
但其實未來路還長的,超過基于技術的任何想象。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.