從亞里士多德到利奧十四世：為什么智慧永遠無法被訓練出來

No.0324

Science Partner

Bring you to the side of science

導 讀

當地時間6月25日，教皇利奧十四世在X上發出那句話時，整個科技界沉默了片刻：

“我們不能將人工智能視為道德中立。”

這句話沒有神學術語，沒有拉丁文引言，它的語氣更像一位見過太多世面的老數學家在駁斥同行，而不是一位穿白色長袍的神職人員在訓誡世人。事實上，利奧十四世本人擁有數學學位。他比大多數人都清楚：算法中立的，是這個時代最流行、也最危險的謊言之一。

但他真正想說的，比”AI有偏見”深得多。他在觸碰一個兩千五百年前就被提出、至今沒有工程解法的問題：智慧，究竟是什么？它能被計算出來嗎？

走，跟伙伴君來！

今日主筆 | 旻宏

從亞里士多德到利奧十四世：為什么智慧永遠無法被訓練出來

01. 亞里士多德早就知道

公元前4世紀，亞里士多德在《尼各馬可倫理學》里區分了兩種不同的知識：episteme（科學知識，可推導、可傳授）和 phronesis（實踐智慧，只能在具體生命中生長）。

前者是算法擅長的領域。你可以訓練一個模型識別癌細胞，可以讓它在圍棋上擊敗人類，可以讓它在法律文書中找出漏洞。這些都是episteme的變體，都是可編碼、可優化、可規模化的規律提取。

但phronesis不同。亞里士多德說，實踐智慧是在“正確的時間、用正確的方式、對正確的人、做正確的事”的判斷能力。這種判斷無法從規則中推導出來，因為真實的道德處境從來不是規則題。它們是充滿矛盾、情境依賴、無法完全形式化的人類困境。一個好醫生知道什么時候應該違反“不說謊”的原則；一個好父母知道什么時候該放手；一個好法官知道法律條文何時會成為正義的障礙。

沒有任何模型能訓練出這種判斷，因為它的底層不是數據，而是存在的經驗：你愛過、失去過、后悔過、承擔過后果。它要求你有皮膚，有死亡，有在深夜輾轉難眠的能力。

兩千五百年后，利奧十四世在通諭《壯麗人性》里幾乎說了同一件事：獲取海量數據并不等同于智慧。真正的智慧涉及個體對終極人生問題的探索，以及對真理與美德的追求。

措辭不同，內核如一。

02. “中立”神話的解剖

但在承認智慧無法被訓練之前，我們先得拆穿一個更基礎的謊言：

算法是中立工具的神話。

利奧寫道，每一個技術工具，都通過“它測量什么、忽略什么、優化什么”來體現價值判斷。這不是神學論斷，這是計算機科學。一個招聘算法如果用歷史薪資數據訓練，就會系統性地壓低女性薪資預測；一個推薦系統如果優化“點擊率”，就會天然地偏向憤怒與恐懼，因為那些情緒讓人停下來。設計者的每一個選擇，都是一次道德行為，無論他們是否承認。

薩特在半個世紀前就給這種逃避起了名字：mauvaise foi，惡意——一種聲稱“我只是在執行系統”的自我欺騙。當工程師說“這只是模型的輸出”時，薩特會叫他們照鏡子。當產品經理說“我們只是在優化用戶體驗”時，他們在用技術語言掩蓋一個道德選擇：什么是好的體驗？對誰好？犧牲了誰？

這是通諭第一層的鋒芒：它不允許任何人躲在“工具中立”的盾牌后面。技術的每一行代碼，都是世界觀的投影。

03. 巴別塔的新建筑師

通諭開篇用了一個古老的隱喻，但沒有人應該因為熟悉就忽略它的精準：“人類今天面臨一個關鍵選擇：要么建造一座新的巴別塔，要么建造那共同居住的城市。

《創世記》里的巴別塔，不是技術失敗的故事，而是權力過分集中導致文明分裂的故事。人們用統一的語言建造通天之塔，最終卻因傲慢而彼此無法溝通。利奧的隱喻是精確的：當今AI的真正危險，不是機器人叛亂，而是一種更安靜、更結構性的權力壟斷。

今天，少數幾家公司的模型已經滲透進法院的量刑參考、醫院的診斷輔助、學校的入學評分、新聞的分發邏輯。誰寫了這些模型的價值對齊框架？誰決定了什么算”有害內容“、什么算”安全輸出“？答案往往是：Anthropic、OpenAI、Google的內部團隊，加上幾個集中于西方名校的學術顧問。

通諭措辭直接：如果”更道德的AI“仍由少數人定義，那它還不夠道德。這是一個政治陳述，不只是倫理陳述。它在問：誰有資格代表”人類利益“？誰被這套代表體系系統性地排除在外？

值得注意的是，梵蒂岡通諭發布現場，Anthropic聯合創始人Chris Olah受邀出席并發言。這個細節本身就是一個信號，在AI治理的戰場上，宗教機構與科技精英之間的關系，已經不是簡單的對立，而是一場復雜的權力談判。兩種關于”人類未來“的敘事，正在同一張桌子上尋找共同語言。還是在爭奪話語權，我們拭目以待。

04. 當殺戮變成界面操作

通諭中被引用最廣的一句話值得放慢來讀：”沒有任何算法能使戰爭在道德上變得可接受。“

這不是和平主義宣言。這是一次對”精準“神話的哲學解讀。

自主武器系統已經不是科幻。以色列軍隊在加沙沖突中使用了AI輔助目標識別系統；美國空軍正在測試AI駕駛的無人戰機。支持者的邏輯聽起來合理：算法更精準，減少平民傷亡。但通諭指出，道德的重量，部分來自于你必須承受決定的后果，包括心理的、靈魂的后果。

當殺戮變成一個界面操作，當士兵坐在內華達州的空調室里遠程控制無人機，當算法替你完成目標鎖定……誰在顫抖？誰在承擔？當沒有人顫抖，戰爭就真的變成了”可接受的“。

這正是亞里士多德意義上的道德退化：phronesis需要當事者在場，需要感受壓力、承擔后果、面對另一個人的眼睛。技術每向前一步，把人從道德后果中剝離一層，就離智慧遠一步。效率與道德，從來就不是同一個坐標軸上的東西。

05. 數據的豐盛與意義的匱乏

我們正生活在一個奇特的悖論里：信息史無前例地豐裕，意義感卻史無前例地稀缺。

GPT系列模型可以在三秒內寫出一篇聽起來充滿洞見的哲學文章，但它無法告訴你：當你在凌晨三點輾轉難眠，心里那個”這一切究竟是為了什么“的聲音，該怎么回應。人工智能可以復制道德推理的邏輯外殼，但無法擁有道德責任的存在之重，那種只有知道自己會死、必須為選擇承擔后果的生命體，才能真正感受到的重量。

這不是玄學。研究”AI與人生意義“交叉領域的哲學學者已經指出：意義感的產生，依賴于蘇珊·沃爾夫所說的”主觀吸引力與客觀價值的交匯“，即你必須真正在乎某件事，同時那件事必須真的值得在乎。算法可以優化你的”滿意度評分“，卻無法替你在乎任何事。

它是情感的鏡像，不是情感的來源。

當我們把越來越多需要實踐智慧的決策，諸如量刑、醫療、教育、招聘等等外包給算法時，我們不是在”效率化“，我們是在悄悄地放棄做人的核心特權：在不確定中做出有重量的選擇，并為它負責。

這才是通諭最犀利的點：它不是在說AI有多危險，它是在問我們有多怠惰。

06. 最后那個沒有答案的真問題

《大西洋月刊》今年1月以《Anthropic正在與自身開戰》為題，揭示了這家以安全為旗幟的公司內部撕裂：做得越大，離減速越遠。 背后只有一個問題沒有被正面回答：當利潤的邏輯與人類福祉的邏輯發生沖突，誰來充當仲裁者？

市場不能。市場的定義是效率，不是尊嚴。政府往往滯后且容易被游說力量俘獲。科技公司的倫理委員會屢屢被證明是公關工具。于是，一個古老的聲音從羅馬的圓頂下傳來，用一個數學專業的清醒、一個宗教領袖的權威，說出了那些工程師在午夜獨自面對屏幕時其實也在想的話：

我們正在建造什么？為了誰？當一切結束，什么會留下來？

亞里士多德在兩千五百年前說，真正的好生活不是最大化快樂，而是eudaimonia——通過發揮人的獨特能力而實現的繁榮。那種能力的核心，是在具體處境中判斷何為善，并為之承擔責任。

這不是僅僅宗教問題。這是人類自身根本的問題。而在2026年，當我們距離將大量道德決策外包出去只剩幾步之遙時，它比任何時候都更緊迫，也比任何時候都更容易被忽略。

因為怠惰太舒服，而忽略又太方便了。

我是旻宏，咱們下期見。

本文僅作科普分享使用，歡迎小伙伴們點、收藏、關注，以備不時之需，當然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。