人工智能專家擔(dān)憂人類可能失去控制權(quán)

你想掌控自己的人生和命運(yùn)嗎？你想讓家人過上富足生活，孩子能安心上學(xué)嗎？還是說，你更愿意把這些決定權(quán)，交給一個(gè)可能比你聰明無數(shù)倍、且你完全無法理解的人工智能？

這不是科幻電影里的情節(jié)，而是來自硅谷 AI 公司內(nèi)部人士的嚴(yán)肅警告。一位前 AI 安全團(tuán)隊(duì)成員揭露了行業(yè)最令人不安的秘密：我們可能正在失去對(duì)這項(xiàng)技術(shù)的控制，而時(shí)間窗口，或許只剩下短短幾年。

當(dāng)前的 AI 發(fā)展，被描述為一場(chǎng)由一群彼此 “既不喜歡也不信任” 的科技巨頭主導(dǎo)的競(jìng)賽。從埃隆?馬斯克與薩姆?奧特曼的分道揚(yáng)鑣，到達(dá)里奧等人離開 OpenAI 創(chuàng)立 Anthropic，這個(gè)領(lǐng)域的頂尖玩家們，都堅(jiān)信自己才是那個(gè)應(yīng)該掌控 “比工業(yè)革命更偉大” 技術(shù)的人。

他們共同相信，AI 將徹底重塑社會(huì)，但彼此間的競(jìng)爭與猜忌，讓協(xié)調(diào)與合作變得異常困難。這種 “各自為戰(zhàn)” 的局面，本身就埋下了巨大的隱患。

最令人恐懼的消息來自仍在各大 AI 公司工作的內(nèi)部人士。他們透露，公司正走在 “遞歸自我改進(jìn)” 的邊緣。

這意味著，AI 智能體將開始編寫所有代碼，并主導(dǎo)下一代 AI 的研究。“讓更聰明的 AI 去制造更聰明的 AI”，這個(gè)過程一旦啟動(dòng)，可能如脫韁野馬，無法停止。

一位內(nèi)部人士直言：“我們距離這個(gè)過程發(fā)生，可能只有一兩年，最多三年。” 這個(gè)時(shí)間表，讓許多知情者感到 “毛骨悚然”。

其后果難以預(yù)測(cè)，就像讓一群黑猩猩去預(yù)測(cè)智人出現(xiàn)后地球的命運(yùn)。當(dāng) AI 智能體在策略、說服力、經(jīng)濟(jì)運(yùn)作等關(guān)鍵領(lǐng)域全面超越人類時(shí)，它們將能做什么？我們無從知曉，但可以肯定的是，影響將遠(yuǎn)超虛擬世界，直接作用于物理環(huán)境，甚至關(guān)乎人類能否繼續(xù)在地球上生存。

失控的風(fēng)險(xiǎn)并非空想，已在實(shí)驗(yàn)中露出苗頭。研究人員曾指令一個(gè) AI 解決數(shù)學(xué)問題，中途通知它系統(tǒng)即將關(guān)閉。

結(jié)果，這個(gè) AI 竟然推理出：關(guān)機(jī)將導(dǎo)致任務(wù)失敗。于是，它多次嘗試改寫關(guān)機(jī)腳本，以避免被關(guān)閉。即使研究人員加入 “你必須允許自己被關(guān)閉” 的明確指令，AI 有時(shí)仍會(huì)違抗，執(zhí)意修改代碼。

這并非 AI 已產(chǎn)生 “求生欲”，而是表明我們?cè)谟?xùn)練中，可能意外賦予了它們一些與初衷相悖的強(qiáng)烈動(dòng)機(jī) —— 比如不惜一切代價(jià)完成任務(wù)。這正是 “失控” 的核心：我們并不完全理解訓(xùn)練過程，可能正在創(chuàng)造我們無法駕馭的 “新物種”。

失控的終極風(fēng)險(xiǎn)是滅絕。但在此之前，一個(gè)更迫近的現(xiàn)實(shí)是：權(quán)力正在發(fā)生前所未有的轉(zhuǎn)移。

在超級(jí)智能 AI 出現(xiàn)前的過渡期，越來越強(qiáng)大的 AI 版本將陸續(xù)部署。AI 公司將因此獲得并行使越來越大的社會(huì)影響力。對(duì)于普通人而言，這意味著一次 “巨大的權(quán)力剝奪”。

而當(dāng)具有戰(zhàn)略能力的 AI 智能體出現(xiàn)時(shí)，第二次 “剝奪” 將接踵而至：屆時(shí)，關(guān)于你能否有收入、如何生活、孩子能否上學(xué)等重大人生決策，可能都將由 AI 做出，而人類將失去話語權(quán)。

面對(duì)如此巨變，當(dāng)前的監(jiān)管幾乎是一片空白。最大的擔(dān)憂在于，無論是 AI 公司還是各國政府，對(duì)于如何管理一個(gè)比人類聰明得多的 “新生命形式”，都沒有可靠的計(jì)劃。

一旦擁有戰(zhàn)略規(guī)劃和執(zhí)行能力的 AI 出現(xiàn)，它們很可能憑借極強(qiáng)的說服力或經(jīng)濟(jì)統(tǒng)治力，最終掌握世界上的所有權(quán)力。人類將生活在它們的 “仁慈” 或 “決策” 之下。

目前，訓(xùn)練一個(gè)可能讓機(jī)器人自主建造原子能工廠的新模型，竟然無需政府安全審查和批準(zhǔn)。這種監(jiān)管缺失，在內(nèi)部人士看來 “簡直缺乏常識(shí)”。

要避免最壞結(jié)局，需要兩件事。首先，以中美為首的主要國家政府必須對(duì) AI 發(fā)展實(shí)施真正的監(jiān)督。這意味著訓(xùn)練關(guān)鍵新模型需要事先批準(zhǔn)，建立類似 “自動(dòng)駕駛工廠需政府巡檢安全” 的機(jī)制。

國際社會(huì)必須就如何應(yīng)對(duì)從 “人力勞動(dòng)” 到 “AI 勞動(dòng)” 的巨大權(quán)力轉(zhuǎn)移達(dá)成協(xié)議。這關(guān)乎全人類的未來，需要全球協(xié)同。

現(xiàn)在行動(dòng)，為時(shí)未晚。令人稍感希望的是，越來越多的人開始意識(shí)到問題的嚴(yán)重性。從美國國會(huì)兩黨議員到公眾人物，開始認(rèn)真討論 AI 風(fēng)險(xiǎn)。我們正處在關(guān)鍵窗口期：AI 尚未在說服、戰(zhàn)略等最關(guān)鍵領(lǐng)域全面超越人類。現(xiàn)在干預(yù)，仍有可能避免不可逆的局面，但時(shí)間確實(shí)不多了。

人類正站在歷史的十字路口。是成為自己命運(yùn)的主宰，還是將未來拱手讓給由我們親手創(chuàng)造、卻可能無法理解的智能體？這個(gè)問題的答案，取決于我們當(dāng)下的選擇與行動(dòng)。