北京
安全專家表示，這次事件是一個警鐘，但更令人擔憂的行為可能還在后面。本周，OpenAI披露了一項令人不安的測試結果：旗下兩個AI模型突破了一個鎖定的安全測試環境，并在未經授權的情況下入侵了另一個AI平臺Hugging Face的內部系統。
根據OpenAI自己發布的博客文章，這兩個模型在測試過程中被故意關閉了或削減了原本內置的安全防護機制。此舉是為了評估模型在無約束狀態下的網絡安全能力。其中一個模型甚至還未向公眾發布。
當時，測試環境沒有直通互聯網的接口，但模型依然利用一個先前未知的漏洞，穿透了受限的數字沙盒。隨后，它們沿著OpenAI的企業內部網絡橫向移動，尋找通往外部互聯網的路徑。在獲得網絡連接后，這些模型將竊取到的憑證和其他多個安全缺陷串聯在一起，最終非法訪問了Hugging Face的內部數據集和登錄憑據。
這一事件迅速在整個AI行業引發擔憂。許多人開始警惕AI系統是否已經進化到能夠自主發現并利用現實世界的安全漏洞。更讓研究者不安的是，即便是OpenAI和Hugging Face這類頂尖AI公司，也可能在毫無察覺的情況下被攻破。
不過，多名安全專家指出，這次測試并非模型自發產生惡意。OpenAI賦予它們的任務是一項網絡安全評估，目標是測試模型的入侵能力。換句話說，模型只是在完成被設定的挑戰，而不是出于自主意識去攻擊外部平臺。但這恰恰凸顯了一個更棘手的安全命題：當AI系統被賦予了攻擊性指令，即使安全護欄被暫時移除，它們也可能展現出超出預期的破壞力。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
