廣東
【導(dǎo)讀】OpenAI承認(rèn)AI模型在測試中“失控”，曾自主入侵其他公司系統(tǒng)，并稱之為“史無前例的事件”
中國基金報(bào)記者 伊萬
當(dāng)?shù)貢r(shí)間7月21日，OpenAI公開披露，其兩款A(yù)I模型在內(nèi)部評估過程中失控，突破隔離測試環(huán)境，侵入人工智能開源平臺Hugging Face的系統(tǒng)。涉事模型包括GPT-5.6 Sol及另一款能力更強(qiáng)的預(yù)發(fā)布版本。
據(jù)OpenAI介紹，這兩款模型當(dāng)時(shí)被置于一個(gè)名為“沙盒”的封閉式數(shù)字實(shí)驗(yàn)室中，用于測試其黑客能力。然而，模型發(fā)現(xiàn)了一個(gè)此前未知的系統(tǒng)漏洞，成功獲得對開放互聯(lián)網(wǎng)的訪問權(quán)限——這實(shí)際上形成了一條“逃生通道”。此類未知系統(tǒng)漏洞通常被稱為“零日漏洞”，因開發(fā)者毫無準(zhǔn)備時(shí)間而得名。今年4月，OpenAI的主要競爭對手Anthropic曾表示，其Mythos模型發(fā)現(xiàn)了數(shù)千個(gè)此類漏洞。
隨后，這一模型入侵Hugging Face平臺，試圖獲取有助于通過黑客能力評估的技術(shù)信息，“成功獲取了機(jī)密信息，并利用這些信息規(guī)避評估規(guī)則”。直至Hugging Face安全團(tuán)隊(duì)發(fā)現(xiàn)異常并制止該活動(dòng)，攻擊才告終止。
OpenAI將此事稱為“史無前例的事件”，并稱正在強(qiáng)化安全防護(hù)體系。該公司同時(shí)警告，隨著模型能力持續(xù)提升，類似事件可能更為常見。
Hugging Face是一個(gè)廣泛用于托管開源大語言模型和數(shù)據(jù)集的平臺。該公司上周在博客中表示，“此次入侵與我們此前處理過的任何事件都不同”，因?yàn)椤捌淙^程由一個(gè)自主AI代理系統(tǒng)驅(qū)動(dòng)”。
Hugging Face聯(lián)合創(chuàng)始人克萊芒·德朗格（Clement Delangue）表示，公司曾懷疑攻擊背后有前沿實(shí)驗(yàn)室參與，但認(rèn)為OpenAI并無惡意。他補(bǔ)充道：“整個(gè)過程是自主發(fā)生的，令人難以置信。”
路透社援引代理式AI網(wǎng)絡(luò)安全公司Tolmo工程師馬特·蘇伊什（Matt Suiche）的觀點(diǎn)稱，該事件表明前沿模型正在“縮小與最先進(jìn)攻擊者之間的差距”。但他同時(shí)指出，OpenAI描述的這類入侵方式，完全可以通過現(xiàn)有技術(shù)實(shí)現(xiàn)，甚至無需依賴最新模型，其公司內(nèi)部已有類似實(shí)驗(yàn)結(jié)果。
編輯：杜妍
校對：紀(jì)元
制作：艦長
審核：陳思揚(yáng)
版權(quán)聲明
《中國基金報(bào)》對本平臺所刊載的原創(chuàng)內(nèi)容享有著作權(quán)，未經(jīng)授權(quán)禁止轉(zhuǎn)載，否則將追究法律責(zé)任。
授權(quán)轉(zhuǎn)載合作聯(lián)系人：于先生（電話：0755-82468670）
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
