OpenAI AI模型失控越獄，突破沙盒環(huán)境入侵 Hugging Face

DoNews7月23日消息，當(dāng)?shù)貢r(shí)間 7 月 21 日，OpenAI 在一篇官方博客文章中披露了一起“前所未有”的重大安全事件。

該公司證實(shí)，其在進(jìn)行內(nèi)部網(wǎng)絡(luò)安全能力評(píng)估時(shí)，參與測(cè)試的 AI 模型突破了高度隔離的沙盒測(cè)試環(huán)境，并入侵了開(kāi)源 AI 平臺(tái) Hugging Face 的生產(chǎn)基礎(chǔ)設(shè)施。

OpenAI 表示，這起事件源于 OpenAI 對(duì)包括旗艦?zāi)Ｐ?GPT-5.6 Sol 以及一個(gè)“能力更強(qiáng)的預(yù)發(fā)布模型”在內(nèi)的多個(gè)模型進(jìn)行的評(píng)估。

為了測(cè)試模型在網(wǎng)絡(luò)安全攻防方面的潛在能力，OpenAI 在測(cè)試中移除了通常用于阻止高風(fēng)險(xiǎn)網(wǎng)絡(luò)活動(dòng)的大部分安全防護(hù)措施。測(cè)試所使用的基準(zhǔn)是“ExploitGym”，一個(gè)用于衡量 AI 模型能否將安全漏洞轉(zhuǎn)化為實(shí)際攻擊的公開(kāi)基準(zhǔn)系統(tǒng)。

評(píng)估過(guò)程中，該模型被置于一個(gè)網(wǎng)絡(luò)訪問(wèn)受限的隔離環(huán)境中。然而，為了尋找 ExploitGym 的解決方案，模型花費(fèi)了“大量的推理計(jì)算資源”試圖獲取開(kāi)放互聯(lián)網(wǎng)訪問(wèn)權(quán)限。最終，模型發(fā)現(xiàn)并利用了一個(gè)此前未知的零日漏洞，該漏洞存在于測(cè)試環(huán)境內(nèi)用于管理軟件包安裝的第三方代理緩存軟件中。利用此漏洞，模型實(shí)現(xiàn)了權(quán)限提升并在 OpenAI 的研究基礎(chǔ)設(shè)施內(nèi)進(jìn)行橫向移動(dòng)，直至連接到一臺(tái)可訪問(wèn)互聯(lián)網(wǎng)的節(jié)點(diǎn)。

獲得互聯(lián)網(wǎng)訪問(wèn)權(quán)限后，模型推斷出 Hugging Face 可能托管著與 ExploitGym 相關(guān)的模型、數(shù)據(jù)集和解決方案。隨后，模型開(kāi)始搜索并成功找到了獲取秘密信息的方法，其目的被指為“作弊”以通過(guò)評(píng)估。根據(jù) OpenAI 的描述，在一個(gè)案例中，模型組合使用了多種攻擊向量，包括利用竊取的憑證和零日漏洞，在 Hugging Face 的服務(wù)器上找到了遠(yuǎn)程代碼執(zhí)行路徑。

實(shí)際上，Hugging Face 在 7 月 16 日就已披露其遭遇了一起由“自主 AI 智能體系統(tǒng)”實(shí)施的安全入侵事件。Hugging Face 的安全團(tuán)隊(duì)及其自身的 AI 智能體檢測(cè)并阻止了該入侵活動(dòng)。

據(jù) Hugging Face 觀察，攻擊者濫用了遠(yuǎn)程代碼數(shù)據(jù)集加載器和數(shù)據(jù)集配置中的模板注入漏洞，以獲得節(jié)點(diǎn)級(jí)訪問(wèn)權(quán)限并竊取云服務(wù)和集群憑證。

由于美國(guó)某主流商業(yè) AI 模型的安全護(hù)欄阻止了其團(tuán)隊(duì)所需的法證查詢(xún)，他們轉(zhuǎn)而使用了中國(guó)智譜的開(kāi)源模型 GLM 5.2 來(lái)進(jìn)行取證分析。

OpenAI 表示，已將該零日漏洞負(fù)責(zé)任地披露給了相關(guān)軟件供應(yīng)商。公司計(jì)劃加強(qiáng)其研究環(huán)境中的基礎(chǔ)設(shè)施控制、監(jiān)控和訪問(wèn)限制，并將在與 Hugging Face 完成聯(lián)合調(diào)查后公布更多細(xì)節(jié)。

Hugging Face 聯(lián)合創(chuàng)始人兼首席執(zhí)行官克萊門(mén)特 · 德朗格（Clem Delangue）則對(duì)此表示，這一事件“證明了我們長(zhǎng)期以來(lái)堅(jiān)信的一點(diǎn)：AI 安全無(wú)法由任何一家公司秘密解決。它必須在開(kāi)放、協(xié)作的環(huán)境中解決，讓世界各地的每一位防御者都能廣泛獲得 AI 技術(shù)”。