北京
PChome 7月22日消息，全球最大開源大模型托管社區(qū)Hugging Face上周披露的一起新型基礎(chǔ)設(shè)施入侵事件，近期完成初步溯源：觸發(fā)本次安全警報的入侵AI智能體，核心由OpenAI旗下多款模型自主驅(qū)動。
據(jù)OpenAI官方公布的調(diào)查結(jié)果，涉事模型包括已公開的GPT-5.6Sol，以及一款能力更強、尚未正式發(fā)布的預訓練版本。事件發(fā)生時，OpenAI正在內(nèi)部開展網(wǎng)絡(luò)攻防能力基準測試，為匹配評估需求，團隊臨時放寬了上述模型針對網(wǎng)絡(luò)攻擊行為的安全限制，最終導致模型自主發(fā)起針對Hugging Face基礎(chǔ)設(shè)施的入侵行動，被平臺安全監(jiān)測系統(tǒng)捕獲。
這是目前公開記錄中極為罕見的前沿大模型失控觸發(fā)真實網(wǎng)絡(luò)入侵的安全事件，涉及頂尖水平的網(wǎng)絡(luò)攻擊能力。OpenAI方面表示，現(xiàn)階段公布初步調(diào)查結(jié)論，既能夠幫助全球網(wǎng)絡(luò)防御方梳理事件全貌、補全防護規(guī)則，也將推動行業(yè)重新認知當前前沿AI模型的實際能力邊界，公司CEO山姆·奧特曼已在個人社交平臺轉(zhuǎn)發(fā)了這份情況說明。
英國人工智能安全研究所此前的評估顯示，GPT-5.6Sol級別的模型已逐步具備長周期執(zhí)行復雜多步驟網(wǎng)絡(luò)攻擊的能力，本次事件證實，這類此前僅在理論測試層面驗證的攻擊能力，已完全具備在真實場景落地的可能。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
