當算法參與決策，安全如何保障？（求解時代之問②）

本報記者 孫亞慧

本版圖片均由AI輔助生成

確保人工智能始終服務于人，而不是替代人的最終判斷

記者：當前算法參與社會決策的廣度和深度，已經發展到了一個什么樣的階段？它帶來的安全風險，是不是已經到了必須系統性應對的臨界點？

肖茜(清華大學人工智能國際治理研究院副院長)：隨著大模型能力的快速提升，人工智能確實正在逐步從傳統意義上的“輔助工具”走向“參與決策”。今天，無論是在醫療診斷、金融風控、交通調度，還是公共治理、司法輔助等領域，算法都越來越多地參與到決策過程中。但總體來看，人工智能成為完全意義上的“決策者”仍然只是少數特定場景，并非社會普遍現象。更準確的表述應該是人工智能正在成為越來越重要的“決策參與者”和“決策影響者”。

從人工智能安全治理的角度來看，確?！叭嗽诃h上”(Human-in-the-Loop)仍然是一項不可突破的基本原則。人工智能雖然在數據處理和模式識別方面具有明顯優勢，但當前技術仍然存在諸多局限，例如“黑箱效應”導致決策過程缺乏透明性和可解釋性，訓練數據可能存在偏差，模型可能產生“幻覺”，在復雜環境下也缺乏人類所具備的價值判斷、倫理考量和情境理解能力。因此，如果將涉及生命安全、公共利益或重大社會影響的決策完全交由人工智能作出，不僅可能導致錯誤決策，也可能出現責任主體不清、問責機制缺失等治理難題。

更重要的是，我們需要關注算法決策不斷擴張所帶來的系統性風險。當越來越多的社會運行依賴算法時，一旦算法出現系統性偏差或遭受攻擊，其影響可能迅速擴散至金融、醫療、交通、能源等多個關鍵領域，甚至影響社會公平和公共信任。因此，我認為，我們已經到了必須系統性應對人工智能決策風險的重要階段。未來的治理重點，不應是簡單限制人工智能的應用，而是在推動技術創新的同時，建立更加完善的風險評估、算法審計和責任追溯機制，確保人工智能始終服務于人，而不是替代人的最終判斷。

魏凱(中國信息通信研究院人工智能研究所所長)：算法伴隨著計算機軟件的普及，早已經深度嵌入社會運行的各個環節，一切計算機程序都建立在算法之上。早期程序依托的算法，完全由人工預設的明確規則驅動。隨著神經網絡等人工智能技術成熟，算法的形成邏輯發生重要轉變：它不再單純依靠人工設定規則，模型訓練數據同樣深刻影響最終輸出。

十余年間，消費互聯網率先完成迭代，信息搜索、商品推薦、廣告分發等場景全面運用 AI 算法。

當下新趨勢顯現：大眾信息查詢行為逐步轉向智能體，依靠大模型整合素材、直接生成應答。需要警惕的是，大模型“幻覺”問題難以徹底消除，使用者應當對智能體輸出內容做好真偽辨別。當然，家里的掃地機器人，自動駕駛汽車，也都是AI算法驅動的?？傮w而言，算法參與社會決策呈現不均衡發展態勢：面向普通公眾的消費場景滲透更廣，面向經營主體的產業場景仍處在深化探索階段。

確保AI進入決策過程之后，不會削弱決策的可靠性、公正性、可控性和可問責性

記者：在“算法參與決策”這個特定語境下，您認為“安全”的核心要義是什么？它和我們傳統說的網絡安全、數據安全、信息安全，最本質的區別在哪里？是不是可以理解為，這是一種更深層的“決策安全”或者“規則安全”？

魏凱：安全本身具有相對性，AI算法安全同樣不存在絕對安全。放到“算法參與決策”這一特定語境下，我認為安全的核心要義，就是保障AI算法具備充足的透明性與運行可靠性，規避由算法自主推演、模型決策帶來的重大風險。

討論AI算法安全不能一概而論，需要結合應用場景、面向的不同主體分類考量。面向普通消費者提供服務的AI算法，應當匹配大眾認知水平，搭建相適配的安全防護機制，守住用戶合法權益底線。具體涵蓋內容合規、防范算法歧視、強化個人隱私保護、警惕AI算法不當引導公眾認知等多個維度；針對未成年人等特殊群體，還要實施更加嚴格、差異化的算法約束。

維護AI算法安全，不能只要求一方出力，技術服務商與使用者雙方都負有責任。對于技術服務商而言，應當嚴格遵循法律法規與相關技術標準，落實算法安全各項合規要求，從技術源頭筑牢風險防線。與此同時，也需要持續呼吁廣大使用者不斷提升風險辨別與自我保護意識。

肖茜：在算法參與決策的特定語境下，我認為“安全”的核心要義，是確保AI進入決策過程之后，不會削弱決策的可靠性、公正性、可控性和可問責性。它所保護的不只是一個技術系統能否正常運行，更是社會中的決策權能否被正當、審慎地行使。

傳統意義上的網絡安全、數據安全和信息安全主要解決的是決策所依賴的技術基礎和信息基礎是否安全。算法決策安全則進一步追問：即使網絡沒有遭到攻擊、數據沒有泄露、信息也是真實的，算法作出的判斷是否一定合理？如果出現錯誤，最終由誰承擔責任？

因此，我認為可以把它理解為一種更深層次的“決策安全”，同時也涉及“規則安全”。所謂決策安全，是要防止算法誤判、自動化偏見和人類過度依賴機器，確保重大決策仍然處于有效的人類監督和控制之下。所謂規則安全，是要審視被寫入算法的目標、指標和價值排序是否合理。因為算法并不是完全中立的，它會把開發者設定的規則轉化為大規模、持續性的社會決策。

記者：生成式 AI 爆發之后，大模型參與決策的場景變多了。和傳統的、針對特定任務設計的算法相比，大模型的“通用決策能力”更強，但不確定性也更大，這是不是給算法安全保障帶來了全新的、更大的挑戰？

肖茜：大模型時代的算法安全已經進入了一個新的階段，它面臨的挑戰與傳統算法有著本質區別。傳統算法通常針對某一特定任務設計，功能相對單一，應用邊界比較明確，因此風險也相對可預測。而大模型則具有通用能力，可以理解、推理、規劃、生成內容，并在逐步向智能體演進，開始參與越來越復雜的決策過程。與此同時，大模型還具有持續學習、不斷迭代、多場景應用等特點，能力邊界始終處于變化之中。這意味著，技術的發展速度遠快于治理規則的更新速度，也使算法安全治理面臨前所未有的挑戰。

大模型時代與傳統算法時代最大的不同，至少體現在三個方面。一是風險更加難以預測。大模型具有一定的涌現能力，一些能力并非開發者預先設計，我們很難像傳統軟件那樣準確預測系統在所有場景下的行為。二是算法開始影響決策，而不僅僅是執行任務。三是風險的外溢性更強。一個通用大模型往往服務數億用戶，可以同時應用于多個領域，一旦出現系統性缺陷、偏見或被惡意利用，其影響可能迅速跨行業、跨地區甚至跨國界傳播，很可能造成系統性風險。

敏捷治理更強調邊發展、邊治理、邊完善規則，提高治理的適應性和前瞻性

記者：全球范圍內，算法治理有不同的思路，中國的算法安全治理路徑，有哪些自己的特點和制度優勢？我們在平衡“發展”和“安全”這對關系上，有沒有走出一條自己的路？

肖茜：我認為，中國人工智能治理的一大特點，就是始終堅持發展與安全并重，努力在促進創新和防范風險之間尋找平衡，而不是把二者對立起來。人工智能是推動經濟社會發展的重要引擎。如果因為擔心風險而過度監管，可能會抑制創新；但如果只強調發展而忽視安全，又可能帶來新的社會風險。因此，中國提出統籌發展和安全，把安全作為發展的保障，把發展作為安全的基礎，在鼓勵技術創新的同時，加強風險治理，努力實現二者的動態平衡。

在治理方式上，中國近年來提出了風險導向、敏捷治理的理念。今年發布的《2026世界人工智能大會暨人工智能全球治理高級別會議主席聲明》再次強調，堅持“風險導向、敏捷治理”。這意味著，面對快速演進的人工智能技術，治理模式不能一成不變，而應根據技術發展和風險變化不斷調整，實現監管與創新同步演進。相比于“先發展、后治理”或“先立法、后創新”的傳統路徑，敏捷治理更強調邊發展、邊治理、邊完善規則，提高治理的適應性和前瞻性。

此外，中國還高度重視人工智能治理的國際合作。人工智能的發展和應用具有跨境性，其風險也具有全球外溢性，任何國家都無法單獨應對。因此，中國不僅積極完善國內治理體系，也積極參與聯合國框架下的全球人工智能治理，倡導開放合作、能力建設和風險共治，推動人工智能真正成為促進人類共同發展的公共產品。

技術治理必須與制度治理相結合

記者：這些年學界和產業界都在探索技術解決方案，從實際進展看，這些技術能在多大程度上解決算法決策的安全問題？技術路徑有沒有它的局限性？會不會出現“道高一尺、魔高一丈”的情況？

肖茜：用技術來解決技術帶來的問題，確實是一條非常重要的路徑。近年來，無論是算法可解釋性、紅隊測試(模擬真實攻擊者對系統進行對抗性測試的方法，旨在發現漏洞并提升安全性)、還是安全評估、模型對齊，都在不斷提升人工智能系統的安全性和可靠性。但是，技術路徑始終存在其局限性。我認為，這種局限主要體現在兩個方面。一方面，人工智能的發展速度遠快于治理規則的演進。今天解決的問題，可能很快就會被下一代模型所突破。隨著模型能力不斷增強，特別是智能體、自主決策、多智能體協同等技術快速發展，未來人工智能甚至可能具備一定程度的自主學習、自主優化和自我迭代能力。在這種背景下，安全治理確實可能面臨“道高一尺、魔高一丈”的挑戰，單純依靠技術手段很難做到一勞永逸。另一方面，許多算法決策安全問題本身就不是技術能夠獨立解決的。例如，算法是否公平、是否符合倫理、是否侵犯個人權利，這些都屬于價值判斷和制度選擇，而不是工程問題。

因此，技術治理必須與制度治理相結合。未來算法決策治理至少應堅持幾項基本原則：第一，對于涉及生命安全、基本權利和重大公共利益的決策，必須保留實質性的人類判斷，并留出充足的判斷時間；第二，建立算法影響評估、模型測試審計和持續監測機制，確保人工智能在部署前、部署中和部署后都處于可測試、可監督的狀態；第三，保障必要的透明度、解釋權和救濟權，使受到算法影響的個人擁有知情和申訴的機會；第四，明確開發者、部署者、使用者和監管者之間的責任邊界，形成完整的責任鏈條。

除此之外，隨著人工智能越來越廣泛地應用于跨境場景，很多風險已經超越了一國的治理能力。例如，前沿模型可能被全球用戶使用，算法漏洞可能迅速擴散，軍事、網絡、生物等領域的風險更具有全球外溢性。因此，還需要加強國際合作，推動風險評估、安全測試、技術標準和治理規則方面的協調，共同應對人工智能帶來的全球性挑戰。

只有形成完整的責任鏈條，才能避免出現“人人參與、人人免責”的治理困境

記者：算法參與決策最棘手的問題之一，是“出了事誰擔責”，真出了安全問題，責任該怎么界定？

肖茜：這是目前全球人工智能治理面臨的一個核心難題。過去，責任往往比較容易界定，誰作出決定，誰承擔責任。但在人工智能時代，一項算法決策往往涉及多個主體，包括模型開發者、數據提供者、系統部署者、平臺運營者以及最終使用算法作出決策的機構。任何一個環節出現問題，都可能影響最終結果。因此，很難簡單地把責任歸咎于某一個主體。

國際社會目前越來越傾向于建立“責任鏈條”的理念，也就是說，根據各主體在人工智能全生命周期中的職責劃分責任，而不是由某一個主體承擔全部責任。只有形成完整的責任鏈條，才能避免出現“人人參與、人人免責”的治理困境。

我國近年來出臺《互聯網信息服務算法推薦管理規定》《生成式人工智能服務管理暫行辦法》等法規，對平臺責任、算法備案、安全評估等方面已經進行了積極探索，為人工智能治理提供了重要制度基礎。但總體來看，目前我國乃至國際社會，都還沒有形成一套十分成熟、可操作的算法決策問責機制。特別是在大模型和智能體快速發展的背景下，責任如何劃分、舉證責任如何分配、算法“黑箱”如何解釋、跨境應用如何監管等問題，仍然需要進一步探索。

記者：對于政府、企業和公眾這三方來說，各自應該扮演什么樣的角色，才能共同織密算法安全這張網？

肖茜：算法安全不是哪一方能夠獨立完成的，而是一項系統工程，需要多方共同參與，形成協同治理的格局。對于政府而言，需要不斷完善算法治理體系。面對快速發展的人工智能技術，監管不能停留在事后處置，而要堅持風險導向、敏捷治理，建立覆蓋人工智能研發、部署和應用全過程的治理機制，完善法律法規、技術標準、風險評估和責任追究制度，為人工智能健康發展提供制度保障。

對于企業來說，應當切實履行安全治理的主體責任。安全不應該只是產品上線后的“補丁”，而應貫穿產品生命周期全過程，加強安全評估、紅隊測試、風險監測和持續優化，真正把“安全設計”融入技術創新之中。

對于公眾來說，要不斷提升人工智能素養。我們既要善于利用人工智能提升工作和生活效率，也要保持獨立判斷，不能盲目迷信算法，更不能把所有決策都交給機器。公眾還應積極行使知情權、解釋權和申訴權，共同推動人工智能更加透明、可信和負責任地發展。

算法安全不是限制人工智能的發展，而是為了讓人工智能更好地服務于人。只有政府加強治理，企業守住責任，公眾積極參與，形成共建共治共享的治理格局，才能共同織密算法安全這張網，讓人工智能真正做到安全、可信、可控、向善。