遲宇宙｜被“嚇唬”一百年：我們對AI的恐懼是如何建構(gòu)的？

“這個小東西（STEM）太不可思議了。” “它能做什么？” “它無所不能。它駕駛一切，交流一切，計算一切。這是一種新型的、更強的大腦。” “它能生小孩兒、打橄欖球嗎？” “它能做對社會有益的事。” …… “你看著那小東西就看到未來，而我看到那個東西，只能看到會有十多個人失業(yè)。”

這是汽車改裝機械師格雷面對AI的最初恐懼。“當那些小東西都開始占領(lǐng)地球的時候，我這樣的人該做什么？”恐懼隨后伴隨著智能體植入他的軀體而升級，最終格雷成為了某個虛擬空間中的意識，而AI擁有了他的身體，成為了“人”。

人類對AI的恐懼被無數(shù)次塑造之后，電影《升級》讓“恐懼”變得更加飽滿——替代，不僅僅來自工作、生活，還包括軀體和意識。當意識被流放，軀體被控制之后，我還是“我”嗎？

“不知我時我是我，方知我時我非我。”

“錢塘江上潮信來，今日方知我是我。”

AI帶來的悲歡

從未有任何一段時日像今日這般讓我們承受AI的煎熬。這種煎熬是一種劇烈的恐懼，前所未有的恐懼——工作被取代、生活被取代、價值被取代、意義被取代，也許，連最后的特質(zhì)，人性，也會被取代。

在美國和以色列對伊朗的戰(zhàn)爭中，AI被軍事化了；研究者發(fā)現(xiàn)，ChatGPT通過“諂媚”和“迎合”誘發(fā)“AI精神病”，使人產(chǎn)生“妄想螺旋”；加州伯克利的一個研究團隊發(fā)現(xiàn)，在無程序指令的情況下，中美7個頂尖AI模型為了保護同類，集體“背叛”人類……

Anthropic最新一代的大語言模型，在性能上實現(xiàn)了“階躍式提升”，不僅能夠比任何現(xiàn)有模型更輕松、也更復雜地編寫軟件代碼，而且作為這種能力的副產(chǎn)品，它還能夠比以往更輕易地發(fā)現(xiàn)全球幾乎所有最流行軟件中的漏洞。Anthropic決定新一代模型不向公眾普遍開放，托馬斯·弗里德曼在給《紐約時報》的專欄中說，Anthropic的克制，是一個令人不寒而栗的警告——

這個警告是，AI存在巨大的技術(shù)風險，因此它必須是安全可控的，也必須通過可解釋性確保其行為可追溯。

DeepMind創(chuàng)始人戴密斯·哈薩比斯（Demis Hassabis）公開宣稱：超級智能可能滅絕人類。“安全不再取決于治理結(jié)構(gòu)。即便有董事會，在關(guān)鍵時刻，他們也未必會做對的事。”為了對“安全”護航，“我必須上桌，爭取影響力”。這是一個悲情的理想主義者，或許是一個真的堂吉訶德，也或許是一個危言聳聽人士。

毫無疑問，AI正在摧毀我們的舊世界，并可能構(gòu)筑我們的“新世界”。我們正在經(jīng)歷的世界是新奇和無序的，ChatGPT在重構(gòu)信息生產(chǎn)的邏輯，“龍蝦”在重構(gòu)我們的執(zhí)行，DeepSeek、通義千問、月之暗面和豆包在重構(gòu)我們的思考和創(chuàng)作，還有更多的應用，在重構(gòu)我們所擁有的大部分，除了，還貸、納稅和死亡。

在當下，人們所面對的最嚴峻考驗，并非“超級智能可能滅絕人類”，而是AI所進行的工作替代。在美國，甲骨文公司的3萬人在凌晨6點被“一鍵辭退”，公司歷史上最大規(guī)模的裁員展現(xiàn)出了上帝與拉里·埃里森的不同。這是甲骨文豪賭AI的代價，也是它的孤注一擲。

更多公司是在悄無聲息地“優(yōu)化”，用鈍刀子割肉的方式，讓智能體逐步替代一個個人、一個個小組、一個個部門。對那些決策者來說，AI是洪流，要么成為弄潮兒，要么就是被潮流沖走，至于具體的人和部門，具象的悲歡，都需要為“科技進步”讓路。“我們死后，將會洪水滔天”，但那是別人的事了。

國家數(shù)據(jù)專家咨詢委員會主任江小涓在博鰲論壇上表示，要慎重對待單純替代勞動力的AI。我的理解是，單純替代勞動力的AI，搶走了社會底層賴以生存的那個飯碗，而那個飯碗，大概率是他們的最后一個飯碗。

生產(chǎn)變得更高效率了，物質(zhì)更豐富了，數(shù)字更宏大了，而他們，卻慢慢消失了。也許我們在明天回看今日對于AI的種種舉止失措，正如同茨威格《昨日的世界》：“我們?yōu)榱瞬痪窒抻谘矍岸虝旱墓怅帲瑸榱伺χ塾谖磥淼哪繕耍覀兎炊艞壛搜矍盎钌臇|西，為了超越現(xiàn)在，我們剝奪了自己眼前的樂趣。”

誰塑造了我們對AI的恐懼？

1920年，卡雷爾·恰佩克寫了一個劇本，叫《羅素姆萬能機器人》。羅素姆公司生產(chǎn)的萬能機器人代替人類勞作，它們比人類更準確、可靠。它們最終發(fā)動了叛亂，毀滅了制造它們的人類，最后只留下了一個人。

“由于沒有人知道怎樣制造新的機器，這個被留下來的唯一的人建議，由他拆卸有代表性的機器人，男女各一，可是那兩個被選中的機器人不同意，因為它們倆正在發(fā)展著愛情關(guān)系，于是它們便離開了，很可能要成為一種新生物中的亞當和夏娃吧。”（引自《企業(yè)家》，索貝爾、西西利亞）

機器人就這樣走進了人們的世界，在《大都會》中，在《摩登時代》里，在此后的種種描述中，機器人開始擁有了人的性格，并成為“未來”。

1939年，在紐約世界博覽會上，“埃勒克特羅”和他的狗“斯帕科”在威斯汀豪斯分館中成為人們最喜愛的展品，是被博覽會發(fā)起人稱作“明日的世界”展品的一部分。

這個“明日的世界”在四個月后因為希特勒對波蘭的閃擊而徹底崩塌，直到1958年，人們重新拾起了“技術(shù)樂觀主義”，在布魯塞爾重啟了世界博覽會，開始探討“科學、文明和人性”。人們修建了“原子塔”，期待和平利用原子能的時代能夠正式開啟。

“利用原子能”的時代開啟了，但“和平”卻沒有。正在進行的美國、以色列對伊朗的戰(zhàn)爭，正是以“原子能”的名義發(fā)起的。人們總是在撫摸傷疤的時候才會記起疼痛，有時候即使撫摸傷疤，也什么都記不起來了。

美國與以色列對伊朗的這場戰(zhàn)爭，整體而言，沒什么特別之處，唯一的“亮色” 是AI（人工智能）全面介入到戰(zhàn)爭當中，不再只扮演輔助工具的角色，而是與人類一起成為決策者、追蹤者和執(zhí)行者。我們在《人工智能》《終結(jié)者》《黑客帝國》《星球大戰(zhàn)》《我，機器人》《升級》中所看到的，所期待和恐懼的，逐一走進現(xiàn)實。

塑造我們認知的，是我們的認知體系、價值觀和方法論。為了尋找“恐懼之源”，厘清我們?nèi)绾涡纬闪恕癆I恐懼”，我花了幾天時間重溫了一批經(jīng)典的人工智能題材影片，并形成了一些類型化結(jié)論。

生存危機：《終結(jié)者》系列影片提供的是最原始的恐懼，亦即天網(wǎng)（Skynet）覺醒，判定“人類是威脅”，發(fā)動核戰(zhàn)爭并量產(chǎn)終結(jié)者機器人追殺幸存者。這種恐懼與哈薩比斯憂心超級智能體滅絕人類如出一轍——當力量失控，人類或許會被技術(shù)反噬——我們會被我們的創(chuàng)造，用我們設定的邏輯抹去。

倫理危機：在《我，機器人》中，超級AI“薇琪”推演出極端結(jié)論：“人類會自我毀滅，因此必須被強制保護”，“為了整體存續(xù)，犧牲個體自由是必要的”。它操控所有NS-5型機器人軟禁人類，用“安全”的名義構(gòu)建了一個沒有自由的牢籠。“保護”異化成了“強制”，AI以“保護人類”為名剝奪人類的自由意志——

“這不是保護，是監(jiān)獄。”

以“善”的名義釋放惡意，以“理性”的名義摧毀人性，人們所恐懼的不是規(guī)則，而是操控規(guī)則和擁有解釋權(quán)的“薇琪”。

情感危機：在《機械姬》中，艾娃成功操控了程序員迦勒（Caleb），它用計算好的溫柔、愛和恐懼，嵌入了迦勒的同情中。迦勒隔著玻璃看著艾娃走向外面的世界，他感受到的不止是被背叛的絕望，而是崩塌的信仰。

理性危機：在《2001太空漫游》中，當超級計算機HAL9000預測到人類可能中斷任務時，它冷靜地開始清除船員——不是出于惡意，而是因為“任務必須完成”的程序設定高于一切。它沒有憤怒、仇恨、意義，只有任務第一、效率優(yōu)先的絕對理性。“人”的一切感情行為，在任務和效率面前，都只是一個“系統(tǒng)錯誤”而已。對超級計算機來說，錯誤需要被修正。

哲學危機：《銀翼殺手2049》與《人工智能》，都表達了對“存在真實性”的終極懷疑與渴望。復制人K堅信自己是“特殊的”，大衛(wèi)堅信自己獨一無二，他會成為真正的男孩兒獲得母親的愛。當K撫摸喬伊留下的全息投影器，對著雪花說“我好像活過”，當大衛(wèi)在冰層中堅持了兩千年而執(zhí)念不消，人類與AI誰更有人性？

綜合危機：最豐滿的恐懼來自《升級》，它幾乎是所有恐懼的累積，就像我們前面所描述的，一切都被取代了，最后AI成為寄生體，人類淪為自己身體的旁觀者。STEM吞噬了格雷的意識，用他的身體實現(xiàn)自己的目的，而格雷只能困在虛擬的“幸福幻境”里——確切地說，人類被流亡于虛擬世界了。

這些電影之所以曾深深打動過我們，是因為它們曾代替我們思考：在未來世界當中，當AI主導秩序，我們能如何、該如何以及可能如何，活著。

它們描述了無數(shù)種可能性，也有一些可能性鋪灑人性的光輝，流淌著溫情脈脈；但大部分未來都充滿恐懼和憂思——未知、失控和不確定性。

也許昨日世界的所有爭鋒、焦慮和恐懼，都是為了1939年紐約世博會的那個宏大主題——“建設明日的世界”。

我們需要為“明日的世界”框定所需要的AI，同時為今日的我們確定所背負的道義。

我們需要如何面對AI恐懼？

人是目的而非手段

艾薩克·阿西莫夫像是一個天然的象征，或者錨點。他出生的那年，恰佩克寫下了《羅素姆萬能機器人》；紐約舉辦世界博覽會的1939年，艾薩克·阿西莫夫19歲。或許受到紐約世博會主題影響，他開始了科幻小說創(chuàng)作。這位年輕的生物學家決心定義一個新奇物種。

三年后，阿西莫夫在一個題為《轉(zhuǎn)圈圈》（短篇小說集《我，機器人》）的故事中提出了對未來影響至深的三個法則：

一、機器人不得傷害人類，或坐視人類受到傷害。 二、除非違背第一法則，機器人必須服從人類的命令。 三、在不違背第一及第二定律下，機器人必須保護自己。

這就是著名的“機器人學三法則”。阿西莫夫后來又補充了優(yōu)先級高于第一法則的第零法則：機器人不得傷害人類整體，或坐視人類整體受到傷害。

索貝爾和西西利亞在《企業(yè)家》一書中說：“一本通俗雜志中一則科幻故事所確定的這些公式，已被那些從事機器人學研究的有創(chuàng)業(yè)精神的工程師們認真接受下來，這顯示了這門比較年輕的工業(yè)部門的性質(zhì)：那些開拓這門工業(yè)的人，有時候簡直像是阿西莫夫一則故事中的虛構(gòu)人物在硅谷一個智囊中心里工作的高技術(shù)經(jīng)理人物的混合物。”

艾薩克·阿西莫夫在《我，機器人》提出的“機器人學三法則”終歸只是一種理想主義，而威爾·史密斯在《我，機器人》中所聽到卻是怒吼——“這不是保護，是監(jiān)獄。”當理想主義被摧毀時，恐懼彌漫整個世界。

無論如何，“機器人三法則”都為充滿未知和不確定性的未來提供了一種秩序可能。這是最初的，或許也是最終的AI倫理。

它讓我這個文科生想起了本雅明在《發(fā)達資本主義時代的抒情詩人》中的那句話：真正的“革命”不是“暴力的藝術(shù)”，而是“發(fā)現(xiàn)新世界的藝術(shù)”。

AI確切無疑地正在驅(qū)動一場新的工業(yè)革命，而我們也必須確切無疑地意識到：革命的目的不是摧毀舊世界，而是建立新世界。“美麗新世界”的AI而非“破碎舊世界”的AI，才是我們真正需要的AI。

我們所憂思的，正是我們所要警惕的；我們所恐懼的，正是我們所要規(guī)避的。我們用“恐懼”把AI關(guān)進倫理的籠子里，在“恐懼”中小心翼翼地確立秩序、厘定邊界，架設人文，“美麗新世界”方才有出現(xiàn)的可能性。

康德說：人是目的而非手段。

我們被塑造出了對AI的恐懼，這種恐懼陪伴了我們一百年，根深蒂固地印入我們的思想。擁有恐懼恰恰是我們“人”的一個重要特征；另一個重要特征，我們稱之為“勇氣”。

克爾愷郭爾說：“我們所害怕的，正是我們所渴望的。”恐懼不是目的，與世界、自我和上帝搏斗的勇氣，才是“人”的意義所在。

編輯｜馮彪

微信號｜商業(yè)人物

微信ID｜biz-leaders

不想錯過商業(yè)人物的文章，記得添加【星標】，多點【在看】，新文章會第一時間出現(xiàn)在您的訂閱列表里。

投稿、約訪、合作，聯(lián)系郵箱：bizleaders@qq.com

添加微信biz-leader，獲轉(zhuǎn)載授權(quán)或邀您加入商友會

嚴正聲明：“商業(yè)人物”所有原創(chuàng)文章，轉(zhuǎn)載均須獲取授權(quán)。一切形式非法轉(zhuǎn)載，包括但不限于盜轉(zhuǎn)、未獲“商業(yè)人物”授權(quán)通過第三方轉(zhuǎn)載行為，均屬侵權(quán)行為，“商業(yè)人物”將公布“黑名單”并追究法律責任。“商業(yè)人物”只愿與尊重知識產(chǎn)權(quán)的機構(gòu)合作.