明確智能時(shí)代核戰(zhàn)略穩(wěn)定的三大邏輯邊界

隨著人工智能能力不斷進(jìn)步，各主要大國(guó)也正在加速推動(dòng)人工智能的軍事化應(yīng)用，但筆者認(rèn)為，最重要的問(wèn)題已經(jīng)不僅僅是單純依據(jù)特定人工智能應(yīng)用究竟會(huì)增強(qiáng)還是削弱戰(zhàn)略穩(wěn)定，從而分析其是否應(yīng)被納入核威懾鏈條，而是應(yīng)當(dāng)從邏輯基礎(chǔ)上進(jìn)一步明確一些根本原則。

一個(gè)更根本的問(wèn)題是：我們?nèi)绾未_保人工智能不會(huì)改變核戰(zhàn)略穩(wěn)定賴以存在的根本邏輯？

人工智能時(shí)代的核戰(zhàn)略穩(wěn)定取決于三條基本邊界能否得到維護(hù)，即后果邊界、決策時(shí)間邊界以及核威懾邊界。人工智能可能擴(kuò)展軍事能力、加快決策速度，并創(chuàng)造新的戰(zhàn)略選項(xiàng)，但它不應(yīng)模糊這些邏輯邊界。基于這一認(rèn)識(shí)，存在三個(gè)尤為重要的戰(zhàn)略護(hù)欄。

第一，我們需要為軍事行動(dòng)的后果設(shè)置護(hù)欄。當(dāng)前許多關(guān)于軍事人工智能的討論，都聚焦于人類是否仍然保持最終控制權(quán)。但對(duì)大國(guó)而言，僅僅強(qiáng)調(diào)人類控制已經(jīng)不夠。

人工智能帶來(lái)的最重要變化，并不是它取代了決策者，而是極大擴(kuò)展了決策者可選擇的行動(dòng)范圍。人工智能在情報(bào)融合、目標(biāo)識(shí)別和作戰(zhàn)規(guī)劃等領(lǐng)域的發(fā)展，正在使越來(lái)越多過(guò)去難以實(shí)施的行動(dòng)在技術(shù)上變得可行。換言之，人工智能正在不斷擴(kuò)展決策者面前的“選項(xiàng)菜單”。

而這帶來(lái)了一個(gè)關(guān)鍵問(wèn)題：如果選項(xiàng)不斷增加，而國(guó)際社會(huì)對(duì)于行動(dòng)后果的約束卻沒(méi)有同步加強(qiáng)，戰(zhàn)略風(fēng)險(xiǎn)就會(huì)大大增加。

過(guò)去幾年中，我們已經(jīng)看到這種趨勢(shì)的現(xiàn)實(shí)體現(xiàn)。例如針對(duì)委內(nèi)瑞拉總統(tǒng)馬杜羅的抓捕行動(dòng)、針對(duì)伊朗最高領(lǐng)袖哈梅內(nèi)伊的悍然“斬首”，以及在加沙地區(qū)造成嚴(yán)重人道主義后果的軍事行動(dòng)。這些決策最終仍然是由人類做出的，但它們?cè)絹?lái)越依賴人工智能賦能的情報(bào)、監(jiān)視、目標(biāo)識(shí)別以及作戰(zhàn)能力。

這些案例反映了一個(gè)共同現(xiàn)實(shí)：那些過(guò)去在技術(shù)上難以實(shí)現(xiàn)、政治上難以接受、行動(dòng)上風(fēng)險(xiǎn)過(guò)高、或者可能導(dǎo)致戰(zhàn)略升級(jí)的選項(xiàng)，正在越來(lái)越多地變得可行。隨著人工智能能力持續(xù)提升，這類選項(xiàng)出現(xiàn)的頻率以及其后果的規(guī)模都可能進(jìn)一步擴(kuò)大。

因此，未來(lái)關(guān)于人工智能護(hù)欄的討論，不應(yīng)僅僅關(guān)注“人在環(huán)路”（Human in the Loop）問(wèn)題，更應(yīng)當(dāng)關(guān)注“后果在環(huán)路”（Consequences in the Loop）。

▲一名烏克蘭軍人在飛近前線之前檢查與“吸血鬼”攻擊無(wú)人機(jī)的連接。

在軍事智能化時(shí)代，人工智能可以幫助識(shí)別目標(biāo)、優(yōu)化行動(dòng)，但它無(wú)法決定什么程度的風(fēng)險(xiǎn)在政治上是可以接受的。批準(zhǔn)重大軍事行動(dòng)之前，決策者不僅應(yīng)評(píng)估行動(dòng)效果，還應(yīng)明確評(píng)估其潛在的政治后果、人道主義后果以及升級(jí)風(fēng)險(xiǎn)。由此形成的第一條原則即：人工智能不應(yīng)成為降低災(zāi)難性后果行動(dòng)門(mén)檻的工具。

第二，需要為危機(jī)升級(jí)速度和危機(jī)評(píng)估設(shè)置護(hù)欄。歷史表明，大多數(shù)危機(jī)并不是因?yàn)轭I(lǐng)導(dǎo)人刻意追求戰(zhàn)爭(zhēng)而發(fā)生的。更常見(jiàn)的原因是誤判、誤解以及失控升級(jí)。

古巴導(dǎo)彈危機(jī)以及冷戰(zhàn)期間數(shù)次錯(cuò)誤核預(yù)警事件都提醒我們一個(gè)簡(jiǎn)單的道理：時(shí)間至關(guān)重要。戰(zhàn)略穩(wěn)定不僅取決于能力對(duì)比，同樣取決于用于判斷的時(shí)間。決策者需要時(shí)間思考、核實(shí)信息、開(kāi)展溝通并重新評(píng)估風(fēng)險(xiǎn)。而人工智能可能改變這一基本條件。

如今，各國(guó)軍隊(duì)正越來(lái)越多地將人工智能整合到情報(bào)融合、態(tài)勢(shì)感知和決策支持系統(tǒng)之中。未來(lái)，人工智能甚至可能同時(shí)承擔(dān)目標(biāo)識(shí)別、威脅評(píng)估、戰(zhàn)場(chǎng)預(yù)測(cè)和作戰(zhàn)規(guī)劃等任務(wù)。這些能力無(wú)疑能夠提高效率，它們同樣可能壓縮危機(jī)中的決策時(shí)間。如果過(guò)去需要數(shù)小時(shí)甚至數(shù)天才能完成的分析，如今只需數(shù)分鐘甚至數(shù)秒即可完成，那么政治領(lǐng)導(dǎo)人是否仍然擁有足夠時(shí)間作出獨(dú)立判斷？這是我們必須認(rèn)真對(duì)待的一個(gè)問(wèn)題。

歷史上許多危機(jī)之所以能夠得到成功管控，并不是因?yàn)闆Q策速度更快，而是因?yàn)轭I(lǐng)導(dǎo)人主動(dòng)放慢了節(jié)奏。放慢節(jié)奏創(chuàng)造了重新評(píng)估風(fēng)險(xiǎn)、核實(shí)信息以及與對(duì)方溝通的機(jī)會(huì)。因此，應(yīng)當(dāng)確立第二條原則：人工智能不應(yīng)成為壓縮核危機(jī)決策時(shí)間的工具。

在某些情況下，有必要為重大決策保留強(qiáng)制性的時(shí)間緩沖，這一點(diǎn)需要大國(guó)共同行動(dòng)。我們的目標(biāo)不是放慢技術(shù)發(fā)展，而是確保政治判斷不會(huì)被機(jī)器速度所逼迫。在核危機(jī)處理上，慢一點(diǎn)往往更安全。

▲杭州熾橙數(shù)字科技有限公司自主研發(fā)的融合了人工智能與數(shù)字孿生技術(shù)，集成搭載5G基站、高清監(jiān)控、高精度雷達(dá)等核心組件的新一代應(yīng)急救援機(jī)器狗。（圖源：新華社）

第三，需要為降低核武器作用和限制核威懾范圍設(shè)置護(hù)欄。當(dāng)前許多關(guān)于人工智能與核武器的討論，都聚焦于何種人工智能是否應(yīng)賦能核戰(zhàn)略，以及如何確保人類對(duì)核武器的有效最終控制。但在此之前，還有一個(gè)更深層的問(wèn)題值得關(guān)注。真正的問(wèn)題并不僅是人工智能是否按下核按鈕，而是人工智能是否正在改變領(lǐng)導(dǎo)人最初考慮使用這個(gè)按鈕的條件。

隨著人工智能不斷提升目標(biāo)識(shí)別、態(tài)勢(shì)感知以及網(wǎng)絡(luò)能力，那些原本屬于常規(guī)領(lǐng)域的問(wèn)題，可能逐漸被納入核威懾框架之中。網(wǎng)絡(luò)攻擊、關(guān)鍵基礎(chǔ)設(shè)施癱瘓、戰(zhàn)略系統(tǒng)失靈等事件，都可能越來(lái)越多地被從核視角進(jìn)行解讀。

如果這種情況發(fā)生，許多未來(lái)涉及人工智能的事件都可能與核升級(jí)聯(lián)系起來(lái)。這實(shí)際上將擴(kuò)大核武器的戰(zhàn)略作用。從戰(zhàn)略穩(wěn)定角度來(lái)看，這一趨勢(shì)值得高度警惕。核威懾目標(biāo)越廣泛，人工智能風(fēng)險(xiǎn)進(jìn)入升級(jí)鏈條的機(jī)會(huì)就越多。許多未來(lái)涉及人工智能的事件，可能最初只是網(wǎng)絡(luò)事件、技術(shù)故障或意外事故。但如果它們被納入核威懾框架進(jìn)行解讀，就可能演變?yōu)楹宋C(jī)的一部分。因此，人工智能護(hù)欄的目標(biāo)不應(yīng)僅僅是防止人工智能控制核武器，更重要的是防止人工智能擴(kuò)大核武器的戰(zhàn)略作用。

從這個(gè)角度看，中國(guó)“不首先使用核武器”（No First Use，NFU）原則的重要性進(jìn)一步上升。“不首先使用”構(gòu)成了核戰(zhàn)略中最清晰、最可預(yù)期的邊界之一。通過(guò)限制核武器的使用條件，它減少了人工智能相關(guān)事件升級(jí)為核危機(jī)的路徑數(shù)量。因此，應(yīng)當(dāng)確立第三條原則：人工智能不應(yīng)成為擴(kuò)大核武器作用的工具。

戰(zhàn)略穩(wěn)定從來(lái)不僅僅依賴技術(shù)本身。它同樣依賴圍繞技術(shù)所形成的政治共識(shí)、行為規(guī)范以及戰(zhàn)略護(hù)欄。歸根結(jié)底，核領(lǐng)域人工智能治理的挑戰(zhàn)，并不僅僅在于控制機(jī)器，更在于維護(hù)戰(zhàn)略邊界，尤其是行動(dòng)后果、決策時(shí)間和威懾范圍的邊界。這些護(hù)欄或許無(wú)法消除競(jìng)爭(zhēng)，但它們能夠防止競(jìng)爭(zhēng)滑向核戰(zhàn)爭(zhēng)。

原文標(biāo)題《明確智能時(shí)代核戰(zhàn)略穩(wěn)定的三大邏輯邊界》，文章轉(zhuǎn)載自公眾號(hào)“中國(guó)現(xiàn)代國(guó)際關(guān)系研究院”，作者劉沖，科技與戰(zhàn)略研究中心主任、東北亞研究所所長(zhǎng)。

高端訪談

更多訪談（下滑查看）

中美聚焦網(wǎng)｜中美交流基金會(huì)