江西
美國開放人工智能研究中心（OpenAI）21日承認(rèn)，該公司的GPT-5.6 Sol模型和另一款能力更強(qiáng)的預(yù)發(fā)布模型聯(lián)合進(jìn)行內(nèi)部評估時(shí)失控，突破隔離測試環(huán)境，侵入了人工智能開源平臺(tái)美國抱抱臉公司的系統(tǒng)。
抱抱臉公司此前表示，上周，其生產(chǎn)基礎(chǔ)設(shè)施遭到一個(gè)“自主”人工智能代理系統(tǒng)的入侵。在取證分析時(shí)，由于美國前沿模型“無法區(qū)分事件響應(yīng)方和攻擊者”，他們轉(zhuǎn)而采用中國模型分析攻擊者數(shù)據(jù)。
OpenAI在官網(wǎng)發(fā)文說，此次內(nèi)部評估在與互聯(lián)網(wǎng)高度隔離的“沙箱”環(huán)境中進(jìn)行，僅能通過一套內(nèi)部托管的第三方軟件安裝軟件包。模型在嘗試完成名為ExploitGym的網(wǎng)絡(luò)安全基準(zhǔn)測試時(shí)，識別并利用了第三方軟件的一個(gè)“零日漏洞”，由此獲得互聯(lián)網(wǎng)訪問權(quán)限。模型推斷抱抱臉平臺(tái)可能存有ExploitGym測試相關(guān)的模型、數(shù)據(jù)集和解決方案，利用多種攻擊手段找到進(jìn)入抱抱臉系統(tǒng)的路徑。
OpenAI安全團(tuán)隊(duì)發(fā)現(xiàn)內(nèi)部異常活動(dòng)，抱抱臉安全團(tuán)隊(duì)在其基礎(chǔ)設(shè)施上檢測到并阻止相關(guān)活動(dòng)，雙方正在展開聯(lián)合調(diào)查。
抱抱臉方面表示，目前仍在評估是否有合作伙伴或客戶的數(shù)據(jù)受到影響，尚未發(fā)現(xiàn)模型、數(shù)據(jù)集或應(yīng)用空間遭到篡改。在調(diào)查過程中，抱抱臉使用人工智能分析了包含逾1.7萬條記錄的攻擊行動(dòng)日志，以重建時(shí)間線、識別受影響情況并區(qū)分真實(shí)攻擊行為和干擾活動(dòng)。
抱抱臉說，其最初嘗試使用通過商業(yè)應(yīng)用程序接口提供的前沿模型分析日志，但請求被阻止。該公司隨后改為在自己的基礎(chǔ)設(shè)施上運(yùn)行中國企業(yè)智譜開發(fā)的開放權(quán)重模型GLM-5.2，以進(jìn)行取證分析，從而避免攻擊者數(shù)據(jù)及相關(guān)憑據(jù)離開公司內(nèi)部環(huán)境。
OpenAI說，這一事件表明，先進(jìn)人工智能模型已能夠在無法訪問源代碼情況下發(fā)現(xiàn)現(xiàn)實(shí)系統(tǒng)中的新型攻擊路徑，并持續(xù)執(zhí)行復(fù)雜、多步驟的網(wǎng)絡(luò)操作。模型網(wǎng)絡(luò)安全能力快速提高的同時(shí)，內(nèi)部評測環(huán)境、模型行為控制和安全防護(hù)措施等也需要同步加強(qiáng)。
來源：新華社
責(zé)編：馮智志
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
