深度偽造，怎么破？

“當(dāng)機器開始思考，人類如何與之相處？當(dāng)算法參與決策，安全如何保障？當(dāng)技術(shù)挑戰(zhàn)倫理，治理如何跟上？當(dāng)鴻溝不斷拉大，普惠如何實現(xiàn)？”在2026世界人工智能大會暨人工智能全球治理高級別會議開幕式上，習(xí)近平主席提出四個追問，共同指向一個深層命題：人工智能發(fā)展得越來越快，怎樣才能讓它始終為人所用、讓更多人從中受益？

AI插畫/adan

人工智能發(fā)展，首先要統(tǒng)籌好發(fā)展和安全，建立更完整的安全觀。人工智能安全不只是“一道紅線”，而是一個不斷遞進的體系。最基礎(chǔ)的是底線安全：算法不能失控，數(shù)據(jù)不能泄露，系統(tǒng)不能被攻擊，人工智能不能成為違法犯罪的工具。這回答的是“能不能放心用”的問題。

再進一步是發(fā)展安全。安全不僅意味著不受威脅，也意味著擁有持續(xù)發(fā)展的能力。核心算法、基礎(chǔ)模型、算力基礎(chǔ)設(shè)施、軟件框架和關(guān)鍵數(shù)據(jù)資源等，關(guān)系著人工智能發(fā)展的主動權(quán)。如果關(guān)鍵技術(shù)長期受制于人，產(chǎn)業(yè)鏈、供應(yīng)鏈缺乏韌性，就很難形成真正的安全。因此，要加強關(guān)鍵核心技術(shù)攻關(guān)，建設(shè)自主可控的產(chǎn)業(yè)體系。這回答的是“能不能持續(xù)發(fā)展”的問題。

更高層次是普惠安全。人工智能發(fā)展的目標(biāo)，不是讓少數(shù)人擁有更先進的技術(shù)，而是讓所有人都能安全、平等、便利地使用。教師會用、醫(yī)生敢用、企業(yè)用得起、普通人用得放心，創(chuàng)新成果才能真正惠及每一個人。

底線安全解決風(fēng)險問題，發(fā)展安全解決能力問題，普惠安全解決價值問題。以教育為例。一套AI教學(xué)輔助系統(tǒng)，既不能泄露學(xué)生信息、用錯誤答案誤導(dǎo)孩子，也要有穩(wěn)定可靠的技術(shù)保障，還應(yīng)讓普通學(xué)校和鄉(xiāng)村學(xué)校用得上。一個看似簡單的應(yīng)用，要同時跨過三道“安全門”。

要實現(xiàn)底線安全，需從事后補救轉(zhuǎn)向全程治理。當(dāng)前，內(nèi)容標(biāo)識、安全評測、算法備案等制度和工具逐步建立。但隨著大模型從“對話聊天”走向“任務(wù)執(zhí)行”，風(fēng)險也從模型“說錯話”發(fā)展到深度偽造、智能體越權(quán)操作。模型開發(fā)、平臺部署和用戶使用之間的責(zé)任鏈條也更長。治理不能等損失發(fā)生后再追趕，也不能只靠使用者“小心一點”。安全要求要進入研發(fā)、上線和使用全過程。教育、醫(yī)療等重要場景應(yīng)提高測試和準(zhǔn)入要求；人工智能生成內(nèi)容要能標(biāo)識、可追溯；出現(xiàn)問題后，要找得到責(zé)任主體。下一步，應(yīng)把上述原則進一步轉(zhuǎn)化為可執(zhí)行的規(guī)則。

要實現(xiàn)發(fā)展安全，需從單點突破走向體系能力建設(shè)。當(dāng)前，中國人工智能已從追趕單一模型走向模型、算力、開源生態(tài)和行業(yè)應(yīng)用共同推進的階段。但關(guān)鍵環(huán)節(jié)仍有短板，基礎(chǔ)研究與產(chǎn)業(yè)應(yīng)用銜接不夠，追逐參數(shù)規(guī)模和短期熱點也會造成重復(fù)投入。做出一個模型，不等于建立了持續(xù)發(fā)展的能力。維護發(fā)展安全，要重視基礎(chǔ)軟件、算法和軟硬件協(xié)同；也要建設(shè)開源生態(tài)，讓高校、企業(yè)和開發(fā)者繼續(xù)創(chuàng)新，推動技術(shù)進入真實場景。自主可控不等于關(guān)起門來，而是既能解決關(guān)鍵問題，也有參與開放合作的底氣。

要實現(xiàn)普惠安全，需從少數(shù)可用走向人人可及。當(dāng)前，算力、數(shù)據(jù)、人才和基礎(chǔ)模型仍集中在少數(shù)主體手中，許多發(fā)展中國家還面臨網(wǎng)絡(luò)、算力和本國語言數(shù)據(jù)不足的局面；價格、設(shè)備和數(shù)字技能也在個人之間形成門檻。若不改變這種狀況，技術(shù)越發(fā)展，智能鴻溝可能越大。推進普惠，需從基礎(chǔ)設(shè)施、技術(shù)生態(tài)和應(yīng)用能力三方面著手：完善網(wǎng)絡(luò)和公共算力，降低基本服務(wù)價格；推進開源模型和多語言數(shù)據(jù)建設(shè)，讓不同國家根據(jù)本地需求開發(fā)應(yīng)用；產(chǎn)品要降低操作門檻，教育等公共服務(wù)還需配套培訓(xùn)和使用規(guī)范。普惠也不只是向其他國家輸出產(chǎn)品，還要通過人才培養(yǎng)和國際合作，幫助其形成技術(shù)研發(fā)、應(yīng)用及治理能力。只有所有國家都能使用、改進并參與人工智能治理，普惠才不只是一句口號。

衡量人工智能發(fā)展，不能只看模型能力，還要看它是否安全可信、能否持續(xù)發(fā)展、能不能讓更多人受益。把這三件事做好，技術(shù)才能走得更穩(wěn)、更遠。

（作者系清華大學(xué)計算機系教授）

作者：劉知遠

編輯：杜瑋