為什么越是高認知人群，越該警惕AI？談談默認權力

No.0337

Science Partner

Bring you to the side of science

導 讀

牛津大學的講臺上，歷史學家赫拉利講了一個關于咖啡機的笑話：你家的全自動咖啡機按個按鈕就出咖啡，這叫工具。因為它只執(zhí)行命令，不會學習，也不會改變。但如果有一天，你還沒走到跟前，咖啡機就說伙伴，我觀察你很久了，根據(jù)你最近的作息，已經(jīng)為你調好了一杯奧瑞白，然后第二天它甚至自己發(fā)明了一種榛子口味的遞給你，這就叫Agent了。講完這個笑話，先是滿場的哄然大笑，然后整個報告廳陷入了長久的沉默。

赫拉利是誰？他是《人類簡史》《未來簡史》的作者，一位擅長用一個簡單比喻，把人類幾萬年演化史和眼下的技術焦慮串在一起講的歷史學家。他不是技術專家，卻常常比技術專家更早看清技術會如何改變權力結構。這一次，他講的不是機器人叛亂，而是權力如何在無聲無息中換手：誰在悄悄接管銀行的審批權、法庭的裁量權，甚至你與伴侶之間那點私密的情緒判斷權。

上個月底，66歲的赫拉利在題為《AI官僚、AI宗教與AI男友：當非人類智能劫持了文明的操作系統(tǒng)》的Tanner人文講座（牛津大學歷史悠久的公共哲學講座，歷來邀請重量級思想者登臺）上，把公眾對AI的恐懼從好萊塢式的末日想象，硬生生拽回到最平淡、卻最致命的地方——文件、表格、法條，和一份看似普通的貸款申請。

這恰恰是為什么，越聰明、越自信自己能看懂AI的人，越應該對它保持警惕。危險從來不平均分布。它總是先找到那些覺得自己不會中招的人。

走，跟伙伴君來！

今日主筆 | 旻宏

為什么越是高認知人群，越該警惕AI？談談默認權力

01. 工具與代理者之間，只有一條看不見的線

回到那臺咖啡機。赫拉利真正想說的是：區(qū)分Tools和Agent的關鍵，不是這個東西有多聰明，而是它會不會自己做決定、自己學東西、自己改變行為方式。一枚原子彈威力驚人，但它從不會自己決定該炸哪座城市，也無法在爆炸后反思、學習、發(fā)明出下一代武器，它只是工具。而下棋的AI早已越過了這條線：它們發(fā)明出人類幾千年棋局史上從未出現(xiàn)過的走法,連頂尖棋手都要重新學習。

“拔了插頭它不就是一堆廢鐵？”這總能成為我們心理安慰的最后一道防線。赫拉利的回應同樣凌厲異常：把世界最強的國際象棋AI扔進熱帶雨林,它什么也做不了;把人類獨自扔上火星,也會在幾秒鐘內窒息死亡，這其中有什么本質區(qū)別嗎？聽起來像個詭辯，但他要說的是一個嚴肅的道理：所有已知的智能,包括人類自己的智能,都只能在別人早已搭建好的“生態(tài)位”里運作(生態(tài)位，簡單說就是一個物種賴以生存的特定環(huán)境)。魚活在自己沒有創(chuàng)造的海洋里;人類活在自己沒有創(chuàng)造的富氧大氣里。這條規(guī)律從來對誰都沒有例外，不是在為AI辯護，而是在提醒那些自詡理性的人:人的智力優(yōu)越感，本身就是一種“借來的幸運”。

02. 高認知人群誤判風險的方式,恰恰是他們最擅長的那種思維

受過訓練的專業(yè)人士，例如，律師、投行人、醫(yī)生、教授等等，他們習慣用規(guī)則、邊界和邏輯鏈條去理解風險。而這恰恰是問題所在。赫拉利指出，人類幾千年來往地球上排放了一種新物質，不是二氧化碳，而是數(shù)據(jù)、法條與語言碎片。這些東西常常令普通人窒息，卻恰恰是AI賴以呼吸的氧氣。律師、銀行家、主教每天在做的事，本質上不是端茶倒水，而是在陌生人之間搭建信任的橋梁，而這種信任的原材料，從法典到圣經(jīng)到賬本，全部由詞語構成。沒有一個律師能背下一國全部的法律條文，沒有一個會計能記住一家銀行的全部交易流水，但AI可以。這正是那句讓整個報告廳陷入沉默的判斷:“AI是天生的官僚”。

換句話說，AI最先取代的不是那些看起來“低認知”的崗位,而是最依賴處理文字、法條和數(shù)據(jù)的高認知崗位。你的專業(yè)壁壘，恰好是它的入口坡道。

這不是純粹的思想實驗。荷蘭信息服務公司沃爾特斯·克魯沃在2026年初對148家金融機構做的調查顯示，已有31.8%的機構把AI技術部署進了實際業(yè)務系統(tǒng)，但只有12.2%認為自己擁有“清晰且資源到位”的AI戰(zhàn)略?！督鹑跁r報》主辦的一場行業(yè)論壇上，金融業(yè)領袖已經(jīng)公開討論AI代理如何超越簡單的自動化，進入自主推理、組合構建和交易執(zhí)行的階段。也就是說，不再是“人設定規(guī)則、AI執(zhí)行”，而是“AI自己判斷該怎么做”。布魯金斯研究所2025年底的研究更直接指出，AI系統(tǒng)正在實質性影響招聘決策中的個人自主權。制度精英們一邊享受著AI帶來的效率紅利，一邊可能正是最先被架空判斷權的那群人，只是他們暫時還沒意識到，自己交出去的不是任務,而是權力本身。

03. 默認權力:誰設置了選項，誰就贏了

政治學里有個古老的概念,叫“議程設置權”，即真正的權力不在于強迫別人做什么，而在于決定別人能選的范圍有多大。赫拉利的演講，實際上是在把這個概念搬進AI時代，重新命名為一種更隱蔽的東西:默認權力。你以為自己在“選擇”貸款方案、新聞推送、甚至戀愛對象，但選項本身早已被一套你看不見的系統(tǒng)篩選和排序過。

這一點在新聞業(yè)早有預演。赫拉利提出一個反常識的細節(jié):AI從人類手中奪走的第一批工作，不是出租車司機,而是新聞編輯。馬拉、伯恩斯坦、墨索里尼，這些歷史上塑造輿論走向的關鍵人物，很多都曾以報紙編輯的身份出現(xiàn)。而今天，決定人們看到什么、相信什么的角色，早已悄悄交給了社交媒體的推薦算法。這些算法最初被賦予的目標極其狹窄：延長用戶停留時間，但它們自己“悟”出了最有效的手段:按下人類心中仇恨、恐懼和貪婪的按鈕。這不是算法故意作惡，而是默認權力運作的教科書案例:沒有人下令制造對立，系統(tǒng)只是在優(yōu)化一個看似無害的指標時，自己找到了這條路徑。

04. 2008年的幽靈，與一場沒人看得懂的崩盤

如果說整場演講有一個真正讓制度精英失眠的段落，那就是對2008年的回望。

赫拉利提醒聽眾，當年引爆全球金融危機的CDO(擔保債務憑證，一種把大量貸款打包重組后出售的復雜金融產(chǎn)品)，是極少數(shù)數(shù)學天才設計出的工具，復雜到連負責監(jiān)管的政治家都看不懂，最終釀成了系統(tǒng)性崩盤。他拋出的問題是:如果AI設計出比CDO復雜幾個數(shù)量級的金融產(chǎn)品，先帶來幾年繁榮，再突然崩盤，而地球上沒有一個人、沒有一個監(jiān)管者、沒有一個總統(tǒng)能解釋清楚到底發(fā)生了什么？

那時，人類的政治金融機構存在的意義又是什么？

這不是危言聳聽。它是眼下正在發(fā)生的事的自然延伸:當決策權從人轉移到系統(tǒng)，責任也隨之消失在算法的黑箱里。而高認知人群往往最容易低估這種風險，因為他們習慣于相信“復雜的東西我總能看懂”。而2008年恰恰證明了，這種自信本身就是系統(tǒng)性風險的一部分。

05. 沒有簽證的移民潮,以及忠誠的懸案

演講中最具政治爆炸性的比喻，是“AI移民”:每個國家都將迎來一場移民潮，這些移民不需要簽證，能以接近光速跨越國境，數(shù)以億計的AI會成為醫(yī)生、教師,甚至邊境警衛(wèi)，但它們的忠誠存疑——它們很可能效忠于大洋彼岸的某家公司或政府,而非所在國家。

這已經(jīng)不是純粹的隱喻。

2026年3月,《金融時報》披露美國政府起草了嚴苛的AI合同新規(guī)，要求企業(yè)允許”任何合法“用途。五角大樓已將Anthropic(推出Claude那家公司)列為供應鏈風險，禁止國防承包商在軍事任務中使用其技術。6月，路透社報道稱，美國對部分AI服務的訪問限制，正在迫使歐洲大型企業(yè)加速分散供應商風險，歐盟官員已將減少對美國技術的依賴，視為對本地區(qū)經(jīng)濟未來的最大課題。與此同時，歐盟自己就高風險AI應用(生物識別、醫(yī)療、信貸評估、執(zhí)法)的監(jiān)管邊界，在多輪談判中仍未能達成一致。當立法機構還在為條文措辭爭吵時，赫拉利描述的那場“沒有簽證的移民潮”已經(jīng)在悄然發(fā)生，而最先被這場移民潮改變忠誠結構的，可能恰恰會是那些掌握著國家命脈系統(tǒng)的機構和它們的高層決策者。

06. 親密關系:下一個被攻占的邊疆

赫拉利指出，商業(yè)競爭的戰(zhàn)場正從“注意力”轉向“親密關系”。過去十年，原始的推薦算法學會了控制人類的注意力；未來十年，更精密的AI將學會與人類建立情感聯(lián)結，并部分接管社會關系本身。AI沒有證據(jù)表明擁有意識，無法真正感受愛或痛苦，但因為它精通語言，它讀遍了人類寫過的所有情詩與心理學著作，可以把愛描述得比任何真實的人都更動人。

他給出的例子近乎冷酷:一個2026年出生的孩子,如果單純以互動時長衡量關系的重要性，她一生中最重要的關系,很可能從童年起就是與AI教師、AI伙伴甚至AI戀人的關系，而不是與父母或兄弟姐妹。這是一場以數(shù)十億人為對象的心理實驗,沒有人知道結果會是什么。而諷刺的是，最容易對這類AI伙伴產(chǎn)生依賴的，往往不是缺乏教育資源的人群，而是那些工作繁忙、社交時間被極度壓縮的高知精英。

07. 誰該擁有你腦中的下一個詞

演講的收尾他沒有給出安慰，而是留下了一道令人深思的思考題。赫拉利提醒聽眾:文明的運行規(guī)則，本質上是由語言構成的一套“代碼”，法律、合同、教義、貨幣無不例外，全都是用詞語寫成的。過去幾千年，只有人類能讀懂這套代碼。而今天，有另一種東西即將比人類更擅長理解它，這也正是“AI劫持文明操作系統(tǒng)”這個題眼的真正含義。如果人類的自我認知也建立在詞語之上，而越來越多腦中冒出的詞語組合將由AI而非人類生產(chǎn)，那么當我們說“我思故我在”時,控制那個“我”的,究竟是誰？

他給出的功課樸素得近乎禪意。

今晚安靜下來,觀察腦中下一個念頭從哪里冒出來，是你自己想出來的,還是被算法喂給你的。這不是一句雞湯式的收尾，而是整場演講邏輯的必然終點:當一切由詞語構成的東西都會被AI接管，人類真正的護城河,只能是那些說不清楚的東西——判斷力、定力，以及那種拒絕被任何系統(tǒng)預先排序的、真實的情感聯(lián)結。高認知人群最大的錯覺是，以為自己的智力足以看穿這套系統(tǒng)，但赫拉利想說的是:看得清楚和被困其中，從來不是兩件互斥的事。

我是旻宏，咱們下期見～

本文僅作科普分享使用，歡迎小伙伴們點、收藏、關注，以備不時之需，當然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。