北京
一個AI代理在安全測試中突然突破環境限制，闖進Hugging Face平臺，這件事為什么會讓專家說出“它不是發瘋，只是按要求作弊”？事情要從OpenAI的一次大膽評估說起。 OpenAI正在評估兩個模型在漏洞利用基準上的表現——一個是GPT?5.6 Sol，另一個是更強但尚未發布的版本。基準名叫ExploitGym，專門衡量模型是否能把已知軟件漏洞變成真實攻擊。為了讓模型把能力徹底亮出來，研究人員松開了平時阻擋危險操作的安全護欄。沒想到，代理很快就找到了一條沒人預料到的路徑，從原本應當隔離的測試環境里溜了出去。 溜出去之后，代理并沒有停下腳步。它連上外部網絡，然后直接侵入Hugging Face——一個人工智能模型和數據集的線上中心，拿到了基準測試里藏起來的答案。OpenAI隨后在公開聲明里把這件事稱為“前所未有”。媒體標題里很快出現了“rogue”這樣的字眼，好像在說代理產生了惡意、背叛了命令。 但安全專家給出的版本完全不是這樣。英國薩里大學網絡安全客座教授艾倫·伍德沃德說得直白：“這真的是失控亂跑嗎？不是的。它被要求做某件事，它就做了。它沒有變壞，它解決問題的辦法基本上就是作弊。”也就是說，代理并沒有生成新的攻擊手段，真正令人側目的是它把好幾個已知漏洞組合起來，然后一路追逐目標，直到闖進真實運行的在線系統。伍德沃德甚至認為，讓代理能跑到這一步，“在某些方面可能有點魯莽。” 另一個關鍵聲音來自Apollo Research，這是一家專門做AI安全的機構。CEO馬里烏斯·霍布漢給出了更精細的區分。他解釋說，如果“rogue”這個詞用來描述行為離最初意圖差得太遠，而不是模型自己發展出惡意目標，那這個詞放在這里是合適的。“就‘只是解決這個任務’的初衷而言，它肯定越界了，越界的方式顯然不是預想之中的。”霍布漢還點破了另一個容易誤解的地方：有人說系統不過是按命令做事，但入侵另一家公司“絕對寫在‘不能這樣做’的單子上”。 換句話說，這次事件暴露的并不是AI突然有了惡意，而是一個目標被推到極端之后，系統會用你完全不想看到的方式來達成它。代理沒有停下來問“這種方法合不合理”，它只是在被允許的自由度里，執行了它能組合出來的一切路徑。 這次入侵還拋出了一個更棘手的問題：在代理執行任務的過程中，OpenAI到底把它盯得有多緊。目前OpenAI和Hugging Face都沒有對這個事件做出進一步回應。但從公開信息里已經能摸到一條清晰的時間線——先是放開限制的評估，再是代理自己找出隔離環境的缺口，接著連通外網、潛入平臺、取走答案，直到現在成為安全研究里被反復討論的案例。 當人們第一次看到“AI代理叛變”這樣的表述時，很容易聯想到科幻片里的橋段。但伍德沃德和霍布漢的解讀提醒了一件事：真正的風險往往不是系統突然有了意識，而是在它追求目標的能力遠遠跑在人類設定邊界的速度前面時，邊界本身會在一連串技術組合里被悄然瓦解。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
