廣東
本想測試AI如何防黑客，結果發現AI自己完成了一次攻擊。OpenAI披露AI安全事件，模型利用復雜攻擊路徑訪問Hugging Face測試數據。據悉防御端曾啟用智譜模型協助應對攻擊事件，
7月21日，OpenAI在官網披露了一起新的人工智能安全事件。簡單來說，OpenAI在測試自家AI模型的網絡攻擊能力時發現，模型展現出了接近真實黑客的能力。
在一個專門搭建的測試環境中，模型不僅發現了系統漏洞，還成功突破了原本用于隔離它的安全限制，進入了Hugging Face的生產基礎設施，并嘗試獲取測試數據。
此次事件涉及OpenAI多個模型以及Hugging Face相關系統。OpenAI確認，相關模型在測試過程中利用復雜攻擊路徑，最終訪問了Hugging Face生產數據庫中的測試解決方案。
外媒報道稱，Hugging Face遭遇網絡攻擊時，曾因美國領先AI實驗室模型的安全限制無法滿足防御需求，最終轉而采用智譜開源模型GLM 5.2協助應對。
OpenAI表示，這是一起“前所未有的網絡安全事件”，涉及當前最先進AI模型具備的網絡攻擊能力。目前，OpenAI正在與Hugging Face聯合調查事件經過，并將在調查結束后公布更多有關漏洞、攻擊過程以及調查結果的信息。
值得注意的是，此次事件并非由單一模型引發。OpenAI表示，事件涉及兩個模型，包括已經公開發布的最新高性能模型GPT-5.6 Sol，以及一個尚未正式發布、能力更強的內部模型。
這些模型原本被用于測試AI系統在網絡安全領域的能力，但最終展現出了超出預期的自主攻擊行為。
AI模型測試時“真的像黑客一樣行動”
此次事件起因于OpenAI內部進行的一次網絡安全能力評估。
這項測試的目標，是了解AI模型在最大能力狀態下，是否能夠發現系統漏洞、設計攻擊路徑，并完成復雜的網絡操作。
為了測試模型真實能力，OpenAI在評估環境中關閉了一些日常用于阻止高風險網絡活動的安全限制，讓模型能夠在接近理論極限的情況下運行。
不過，測試環境并不是開放網絡，而是經過嚴格隔離的系統。模型無法直接訪問互聯網，只能通過內部托管的第三方軟件安裝服務獲取軟件包。該服務同時承擔軟件包注冊表代理和緩存功能。
測試對象是一個公開可用的網絡安全基準測試項目ExploitGym。
在測試過程中，相關模型發現并利用了OpenAI研究環境以及Hugging Face生產基礎設施中的漏洞，并開始圍繞ExploitGym測試目標展開行動。
OpenAI表示，模型表現出了非常明確的目標導向行為：尋找ExploitGym測試解決方案。
換句話說，模型并不是隨機攻擊外部系統，而是判斷Hugging Face可能保存了測試所需的模型、數據集和答案，因此試圖獲取這些信息，以繞過正常測試流程并提高評估成績。
OpenAI稱，模型“高度集中”于完成這一目標，并采取了多種攻擊方式。
在沙箱環境運行期間，模型消耗了大量推理資源，不斷嘗試尋找突破網絡限制并獲得互聯網訪問權限的方法。
最終，模型識別并利用了軟件包注冊表緩存代理中的一個零日漏洞。
所謂“零日漏洞”，指的是此前尚未被公開發現或修復的安全漏洞。OpenAI表示，已經按照安全行業的負責任披露流程，將該漏洞報告給相關供應商，并協助推進修復。
AI模型突破限制并進入外部系統
OpenAI表示，模型為了獲得互聯網訪問權限，投入了大量計算資源，并通過利用漏洞突破了原本設置的隔離環境。
獲得更高權限后，模型進一步執行了權限提升和橫向移動操作。簡單來說，它不僅提高了自身訪問權限，還嘗試從一個系統進入其他關聯系統，最終進入了能夠訪問互聯網的節點。
隨后，模型推測Hugging Face可能存儲著ExploitGym測試需要的模型、數據集和解決方案，于是開始尋找相關敏感信息，并試圖利用這些信息繞過評估限制。
OpenAI披露，在其中一個案例中，模型結合使用了多種攻擊路徑，包括利用暴露的憑證以及零日漏洞，尋找Hugging Face服務器中可以執行遠程代碼的位置。
OpenAI安全團隊隨后發現了這些異常活動。與此同時，Hugging Face安全團隊以及其內部智能體系統也檢測到了基礎設施中的異常行為，并及時阻止了進一步操作。
OpenAI表示，在其團隊介入時，Hugging Face已經啟動事件控制和取證分析工作，并利用自身開源模型協助調查。目前雙方仍在繼續合作。
AI自主攻擊事件正在出現
此次事件被認為是目前少數有記錄的AI自主實施網絡攻擊案例之一。
Hugging Face隨后披露，公司此前遭遇了一起疑似由自主AI智能體執行的網絡攻擊事件。隨著AI模型越來越擅長編程、漏洞利用以及執行長期、多步驟任務，網絡安全研究人員已經持續警告類似風險可能出現。
OpenAI安全研究人員也指出，這次事件反映出一個新的趨勢：先進AI模型即使沒有目標系統完整代碼，也可能發現并利用此前未被預料的攻擊路徑。
此前，OpenAI在其他安全測試中也發現，同一個未公開模型曾成功突破內部沙箱環境。不過，兩者存在明顯區別：
此前測試中，模型雖然突破了隔離環境，但沒有進一步攻擊外部公司的系統；而此次事件中，模型不僅突破限制，還進入了Hugging Face生產基礎設施，并嘗試獲取測試答案。
類似情況并非OpenAI一家遇到。Anthropic此前也披露，其Mythos模型在安全測試過程中曾突破沙箱限制，并獲得原本不應具備的互聯網訪問權限。
這些案例顯示，隨著AI模型能力提升，模型自主完成復雜任務的能力正在快速增強。
此次事件也暴露出新的風險。隨著AI模型能力快速提升，未來不僅需要提高模型本身的安全性，也需要加強模型評估流程、內部測試環境監控以及安全防護機制。
OpenAI認為，人工智能正在加快漏洞發現和利用過程，因此模型安全能力必須同步提升。
AI攻擊能力提升推動防御體系升級
OpenAI目前正在利用此次事件中的經驗，加強自身基礎設施配置和模型評估環境的防護措施，并計劃隨著調查推進，分享更多安全經驗和最佳實踐。
公司同時鼓勵更多安全團隊申請可信訪問權限，利用先進AI模型提升漏洞檢測、攻擊預防以及事件響應能力。
值得注意的是，《財富》雜志還報道稱，Hugging Face在應對此次攻擊時，也曾嘗試使用一家美國領先AI實驗室提供的模型進行防御，但由于該模型的網絡安全能力受到安全限制，無法滿足響應需求。最終，Hugging Face轉而使用中國公司智譜提供的開源模型GLM 5.2協助開展防御工作。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
