對話翁家良博士：人本人工智能才是價值終局

人工智能正以超預期的速度進化，“AI制造AI”已從科幻照進現(xiàn)實。當Anthropic、谷歌等全球頂級實驗室集體釋放出對技術的深層焦慮，人類站在了技術狂飆、商業(yè)利益與全球治理的十字路口。

在這場不可逆的智能海嘯中，企業(yè)和社會究竟該如何權衡技術進步帶來的紅利與安全問題？

長期處于AI前沿的資深學者、新加坡AIII人工智能國際研究院院長、WAIC世界人工智能大會國際顧問翁家良博士參與著作的《人本人工智能》深度思考，試圖解答這一關系人類前途的問題。

近期，翁家良博士在和我們對話時表示，技術、商業(yè)化與治理三大支柱必須動態(tài)并行，“人本人工智能”絕非一句公關口號，它是讓企業(yè)和人類社會更穩(wěn)、走得更遠的商業(yè)底層邏輯。

以下是我們和翁家良博士的對話。

Q：翁博士您好，6月5日，Anthropic公開表示其工程師認為Claude的代碼質量年內就將全面超越人類，甚至不惜呼吁全行業(yè)在某種機制下“減速或暫停”以防失控。作為長期處于AI前沿的科學家和聯(lián)合國專家，您怎么看這種由頂級實驗室主動釋放的“技術焦慮”？這是否意味著我們正處于您書中所說的“利潤至上將AI引向歧途”的十字路口？

A：Anthropic聯(lián)合創(chuàng)始人Jack Clark最近也表示，他們發(fā)現(xiàn)大模型正在呈現(xiàn)出一些超乎預期的表現(xiàn)，這些情況所帶來的復雜后果與潛在風險，已經遠非科學家或技術專家所能獨立承擔。其中一點，就是AI制造AI。

我在書里的第一章就談到這個事了。ChatGPT等大模型有一項杰出的能力，就是自我學習和自我適應，這使得它們顯得越來越“有機”，它們能夠隨著時間的推移而自我學習和發(fā)展，無需明確的編程指令。

人工智能的“有機”特性不僅在于其自我學習能力，也延伸至其自我適應能力。自我適應使得人工智能系統(tǒng)能夠在動態(tài)環(huán)境中茁壯成長，類似于生物體在求生過程中的表現(xiàn)。這種適應性使人工智能系統(tǒng)能夠在不同的環(huán)境中發(fā)揮作用。然而，它也可能導致一些情況，讓用戶感到驚訝、困惑甚至恐懼。

科學家或工程師，也發(fā)覺這個事情有可能發(fā)生，越來越多的人開始去提醒大家。

Q：在《人本人工智能》的邏輯框架中，混合人工智能是通往HASI（以人為中心的人工智能）的潛在路徑，混合人工智能偏向技術實現(xiàn)手段，而人本人工智能則是價值終局。請您解釋下這條發(fā)展道路？

A：隨著人機關系新紀元的開啟，我們面臨前所未有的挑戰(zhàn)，需重新思考人類與AI之間的互動關系。

在AI制造AI真正發(fā)生前，科學家必須投入更多資源以應對可能發(fā)生的風險。我認為，混合人工智能是我們通往人工智能終局的橋梁，要將人類的道德、常識等植入AI系統(tǒng)，將人類直覺中最精妙的部分與機器融合，讓AI的行為變得可預測、可驗證。人類需要就此達成共識，同時利用此共識開發(fā)新的AI架構。它將是我們人類可控的一種工具。

目前李飛飛和楊立昆都在開發(fā)世界模型，并希望這種能夠理解物理世界規(guī)律的模型更接近真正的智能結構，但我認為這仍然不夠。如果缺乏人類高階邏輯介入，就無法突破“人本”與“安全對齊”的終極瓶頸。

我們的目標是實現(xiàn)人本人工智能。它不是一種純粹的技術升級，而是一套將技術、治理、商業(yè)化有機結合，以“服務人類福祉、確保人類控制權、推動人機共生”為宗旨的技術治理世界觀。

Q：您一直積極倡導將“人本人工智能”作為聯(lián)合國的第18個可持續(xù)發(fā)展目標，要讓中美歐等不同經濟體、不同利益訴求的企業(yè)達成這一共識，目前進展如何？

A：過去幾年，聯(lián)合國一直在討論成立一個專門的人工智能機構，但我認為，僅僅建立一個行政機構可能不是最高效的解法。人工智能治理的關鍵不在于形式，而在于如何真正落地。我之所以倡導把它列為“第18個可持續(xù)發(fā)展目標”，是因為聯(lián)合國此前推出的1至17個可持續(xù)發(fā)展目標是極其成功的全球框架，得到了廣泛支持與堅定推動。

如果能將“人本人工智能”確立為新的全球標準，就能將這一共識輻射到全球80億人，讓大家共同來推動這件事。當然，最終它是否能被官方正式寫成“第18個目標”并不是唯一的重點，真正的重點在于通過這個過程將“人本”的理念傳播出去。

Q：《人本人工智能》一書中提到了令人不安的深刻AI風險（如深度偽造、黑產）。從政策制定和組織管理的角度來看，我們如何建立一套動態(tài)的“剎車機制”？一旦AI的負面效應超過社會承受力，治理結構該如何進行硬著陸？

A：所謂的“剎車機制”，歸根結底取決于人類一體化的最終決斷。如果透視人工智能的發(fā)展，我們會發(fā)現(xiàn)它帶來的紅利與風險是交織在一起的，且風險分為短期已現(xiàn)、中期迫近和長期潛在三個維度。

對此，我們必須回歸一個最基本的共識：AI的發(fā)展浪潮是不可逆轉的。因此，我們的第一步是全面“接受”，并主動開啟人機協(xié)同的進程。在使用的過程中，我們要清晰地建立起“如何正確使用AI”的社會規(guī)范。

隨著AI加速進化，我們不僅要用它來理解物理世界，更要用它來反觀人類自身、理解AI本身。同時，我們要通過培育更優(yōu)質的數(shù)據，來引導AI的良性演化。

最終的挑戰(zhàn)在于，正如人工智能先驅杰弗里·辛頓所擔憂的——硅基生物是否會不可逆地替代我們碳基生物？針對這一終極命題，我們必須投入更多的資源去進行底層研究。比如辛頓曾提到過“母愛”這種人類最基礎的價值觀，我們如何通過算法研發(fā)將其導入到AI的底層邏輯中？在不久的未來，當AI的智力全面超越人類時，這種內嵌的“母愛”和人本價值觀，或許才是人類社會最穩(wěn)固的、底層的動態(tài)剎車機制。

Q：對于一家具體的金融或科技企業(yè)，高管層往往面臨業(yè)績壓力。在組織管理上，如何避免將“負責任的AI治理”變成PPT上的公關口號，而是落實到首席風險官（CRO）或產品線考核的硬性指標中？

A：我們必須承認，企業(yè)的本質就是追求盈利與商業(yè)化的成功，但在這個大前提下，企業(yè)高管必須算清一筆大賬：在未來的競爭中，做不安全的人工智能，企業(yè)可能會“死得更快”。

我們可以拿航空業(yè)做個類比。如果一家航空公司制造或運營的飛機存在安全隱患，它根本不可能實現(xiàn)長期盈利，一次事故就可能讓它面臨滅頂之災。因此，行業(yè)要消除認知誤區(qū)，認為“做治理、做安全就意味著不賺錢”。

我們應該轉過頭來思考：如何通過做對、做安全AI，來讓企業(yè)更有競爭力、更賺錢？有些產品可能由于打安全擦邊球，在初期賺到了一些快錢，但從長遠來看，這在商業(yè)上是絕對不可持續(xù)的。

另一個商業(yè)解法在于，我們如何通過卓越的產品設計，讓“人本人工智能”變得比普通人工智能更賺錢。當你提供的AI由于更人性化、更具人文關懷，從而精準切中消費者的深層需求時，用戶對你品牌的忠誠度和付費意愿會更高。這非常考驗企業(yè)掌舵者的戰(zhàn)略眼光與領導力。

中國儒家哲學講“修身、齊家、治國、平天下”。企業(yè)家如果想要在商業(yè)市場上開疆拓土、成就偉大的事業(yè)，其底座依然是“修身”——也就是企業(yè)的價值觀與底層操守。只有把“人本”的修身邏輯嵌入企業(yè)的基因里，商業(yè)的根基才能穩(wěn)固。

Q：現(xiàn)在的人工智能企業(yè)和工程師動輒討論AI何時在各項指標上全面“打平”或“超越”人類。您在書中提出的“人機共生智能”，在技術架構上如何確保AI永遠是人類能力的放大器（Supertools），而不是人類的替代品？

A：我們不應該僅僅從純技術的微觀視角去尋找解法，而是必須站在一個更高的維度來看待這個問題。

AI的發(fā)展絕對不是一個孤立的技術演進，它是由技術、商業(yè)化、治理這三大支柱有機交織在一起的。這三者必須保持高頻的“動態(tài)并行”。隨著技術的不斷進化和日益強大，你的商業(yè)化手段需要去平衡技術紅利對客戶、對社會帶來的深遠影響；與此同時，整個治理與風控體系也必須緊跟技術的步伐，進行實時的、敏捷的動態(tài)調整。

這是一個巨大的挑戰(zhàn)。最近谷歌DeepMind的聯(lián)合創(chuàng)始人也公開發(fā)表了類似的擔憂：當前的AI技術正以非線性的速度狂飆，往往導致你剛制定出一項治理政策，還沒等到它真正落地，底層的技術范式就已經完全變了。

因此，要確保AI成為人類的放大器而非替代品，關鍵不在于某一個特定的技術架構，而在于這三大支柱能否形成一套“小步快跑”的協(xié)同機制。只有讓治理和商業(yè)化跑得和技術一樣快，我們才能把狂飆的技術鎖在“人機共生”的軌道里。

Q：隨著AI進入自動駕駛（L3/L4）和工業(yè)機器人等物理實體，技術層面的安全容錯率極低。您對軟硬件結合的技術安全性有哪些前瞻性構想？

A：自動駕駛等軟硬件結合的物理實體，安全確實是“人命關天”。我認為解決這一級別技術安全性的核心前瞻策略，在于“漸進式擴大部署范圍”。

在大模型或智能體剛走向物理世界時，由于未知邊界太多，任何人都無法預判AI具體會在哪里出錯，甚至無法完美調校底層的倫理算法。如果為了搶占市場而不負責任地強行全面部署，必然會導致無辜的公眾受到傷害，這是絕對錯誤的。

我們可以參考航空工業(yè)的成熟經驗。飛機的安全不是一蹴而就的，而是在長期的、高頻次的使用過程中，不斷發(fā)現(xiàn)漏洞、修補邏輯、沉淀標準，從而把容錯率不斷提高。自動駕駛從L1一直演進到L4甚至L5，也必須經歷這樣一個動態(tài)演進的生命周期。

因此，我的具體構想是：一方面通過區(qū)域性的“沙盒測試”慢慢擴大部署，在可控范圍內動態(tài)學習和糾錯；另一方面，我們要采用“以AI管AI”的技術架構。在軟硬件系統(tǒng)內部，用專門的“監(jiān)督型AI”和多重技術冗余，去實時學習、捕捉并約束那個“負責決策的AI”。針對不同的復雜場景，用不同的技術組合拳來提供安全硬約束。

Q：自動駕駛汽車在面臨交通事故時的選擇，撞人還是撞墻、保護車主還是保護10個路人，是科技、倫理與商業(yè)化交織的終極十字路口，也是人類幾百年都沒有定論的“電車難題”。當這個難題被寫進代碼、交給機器時，它就不再是抽象的哲學討論，而是變成了一行行冷冰冰的概率算法。在您的“人本人工智能”框架下，自動駕駛汽車究竟該如何去解決這個困境？

A：我們通常認為人類是理性的生物，能夠做出符合自身價值觀的最佳選擇。相比之下，人工智能系統(tǒng)則像是一個能夠作出難以解釋的決策黑箱。它們可能會突然“失控”或“變節(jié)”，從而造成傷害。但令人驚訝的是，在面對艱難道德抉擇時，人類也往往如同難以捉摸的黑箱。

從理論上講，為了避免撞到10個行人，自動駕駛汽車應該選擇突然轉向并撞向墻壁，哪怕這意味著犧牲司機和乘客的生命。然而，事實證明人類總是充滿矛盾和自私。大多數(shù)人支持盡可能挽救更多生命的原則，但如果你問他們：“如果拯救10個行人意味著自動駕駛汽車會犧牲你的生命，你愿意嗎？”他們會毫不猶豫地回答：“不愿意！”他們絕不會購買一輛設定為在必要時犧牲車主以拯救其他生命的汽車。

如果我們連自己在生死攸關的瞬間會做出何種選擇都不知道，那我們又怎能把這些重大決定權交給算法呢？

至于這個倫理規(guī)則究竟由誰來決定？我覺得會有一個大的框架，但是到了某一個應用場景，它可能會有差異。具體的算法必須允許分布式的、因地制宜地進行重新定制與微調。在這個過程中，無論是政策制定者（旁觀者）、研發(fā)與運營企業(yè)（主宰者）還是用戶（乘客），都需要在本地化的博弈中共同參與規(guī)則的重塑，而不是依賴某一條全球一刀切的死板代碼。

Q：AI大幅提高了金融媒體、法律、編程等行業(yè)的生產率，但也直接引發(fā)了裁員或崗位轉型的陣痛。作為商業(yè)組織，在享受AI帶來的“降本增效”紅利時，應該承擔怎樣的社會責任？

A：這是一個極其深刻的系統(tǒng)性問題，我們需要將企業(yè)分為“新老兩個陣營”來辯證看待。

對于全新孵化的初創(chuàng)企業(yè)而言，它們天然地在向“一人公司”的敏捷模式演進。這些企業(yè)本身沒有存量員工的包袱。但對于龐大的存量傳統(tǒng)企業(yè)來說，這就是一場考驗領導力智慧的劇烈轉型。它的陣痛不僅在于現(xiàn)有員工的安置，更在于未來大學畢業(yè)生等初級崗位的斷層。企業(yè)必須重新定義和調整崗位。

全球范圍內有一個非常成功的案例——宜家。隨著AI的應用，他們對傳統(tǒng)的呼叫中心進行了大刀闊斧的改革。那些原本只負責接聽電話的重復性崗位被淘汰了，但宜家并沒有盲目地把員工推向社會，而是通過重新培訓，將他們升級為“定制化家居服務專員”。原有的崗位雖然消失了，但員工留了下來，并創(chuàng)造了更高的人文價值。

此外，我必須向所有企業(yè)家提出一個警示。當前行業(yè)正在逼近一個被稱為“智能危機”的深水區(qū)。如果所有企業(yè)在享受AI紅利時，都簡單粗暴地通過大裁員來推高自身利潤，最終會引發(fā)一個恐怖的宏觀惡性循環(huán)。

我們正在經歷從“工業(yè)化經濟”向“自主化經濟”的終極跨越。未來的很多生產性工作都將由機器人和AI接管，整個社會的財富分配和運行邏輯必須重新重構。但我始終堅信，只要不同國家具備優(yōu)秀的、富有遠見的領導力，人類的智慧遲早能找到一條包容性增長的全新治理模式。

Q：在可以預見的未來，人工智能絕對不只是一個工具，而是會全方位重塑人類社會。面對這一不可逆的趨勢，人類究竟該如何去自我調適與適應？

A：首先是全面“接受”并主動“適應”，但更核心的在于我們要擁有“引導”技術走向的底氣——因為這畢竟是人類親手發(fā)明出來的技術。同樣的底層技術，通過不同的設計哲學和開發(fā)路徑，結出的文明果實是完全不同的。這就要求我們必須在今天，堅定地走“人本人工智能”的研發(fā)道路。

我們必須看清一個歷史大勢：當AI全面滲透到社會的每一個微觀場景時，我們的經濟模式、地緣政治、教育體系都面臨著顛覆性的重新調整。

如果拉長文明的視線，人類在這個星球上存在了大約30萬到35萬年。從7萬年前的認知革命開始，我們先后經歷了農業(yè)革命、科學革命、工業(yè)革命和信息革命，直到今天跨入智能革命的門檻。我認為，智能革命的下一站，必將是“自主化革命（Autonomous Revolution）”。

當機器接管了大部分生產力，自主化革命將逼迫人類推開一扇更高階的文明大門——去真正弄清人類大腦與主體意識之間的終極關系。這正是我們在這個時間點，必須傾注全人類精英資源去攻克的硬課題，而不是等到技術失控后才去被動應付。適應人工智能的終局，其實是一場人類回歸自身的哲學覺醒。我們必須對這些關乎人類命運的本質哲學問題，進行最深度的投入與挖掘。

（文| 春野，圖片來源 | 受訪者，本內容轉載自財經天下WEEKLY）