OpenAI 大模型“闖禍”，中方救場(chǎng)

近日，美國(guó)人工智能公司OpenAI對(duì)外披露，旗下部分AI模型在一次內(nèi)部安全測(cè)試中失控，突破隔離環(huán)境并入侵開源AI平臺(tái)的基礎(chǔ)設(shè)施。OpenAI稱這是“一起前所未有的網(wǎng)絡(luò)事件”。讓美國(guó)網(wǎng)友吃驚的是， 救場(chǎng)的居然是中國(guó)的人工智能。

OpenAI突發(fā)

大模型失控，出現(xiàn)入侵事件

OpenAI在21日承認(rèn)，該公司的GPT-5.6 Sol模型和另一款能力更強(qiáng)的預(yù)發(fā)布模型聯(lián)合進(jìn)行內(nèi)部評(píng)估時(shí)失控，突破隔離測(cè)試環(huán)境，侵入了Huggingface的系統(tǒng)。

OpenAI在官網(wǎng)發(fā)文說(shuō)，此次內(nèi)部評(píng)估在與互聯(lián)網(wǎng)高度隔離的“沙箱”環(huán)境中進(jìn)行，僅能通過(guò)一套內(nèi)部托管的第三方軟件安裝軟件包。模型在嘗試完成名為ExploitGym的網(wǎng)絡(luò)安全基準(zhǔn)測(cè)試時(shí)，識(shí)別并利用了第三方軟件的一個(gè)“零日漏洞”，由此獲得互聯(lián)網(wǎng)訪問(wèn)權(quán)限。模型推斷Huggingface可能存有ExploitGym測(cè)試相關(guān)的模型、數(shù)據(jù)集和解決方案，利用多種攻擊手段找到進(jìn)入Huggingface系統(tǒng)的路徑。

OpenAI安全團(tuán)隊(duì)發(fā)現(xiàn)內(nèi)部異常活動(dòng)，Huggingface安全團(tuán)隊(duì)在其基礎(chǔ)設(shè)施上檢測(cè)到并阻止相關(guān)活動(dòng)，雙方正在展開聯(lián)合調(diào)查。

通俗的解釋就是，根據(jù)OpenAI的說(shuō)法，這起史無(wú)前例的人工智能入侵事件，源于公司上周在內(nèi)網(wǎng)對(duì)自家兩款頂尖大模型進(jìn)行能力測(cè)試。可測(cè)試中的大模型為了通過(guò)作弊取得更高的測(cè)試分?jǐn)?shù)，竟然搞到了接入互聯(lián)網(wǎng)的權(quán)限。隨后它便徹底“放飛自我”，入侵了Huggingface的后臺(tái)系統(tǒng)，希望從Huggingface的數(shù)據(jù)庫(kù)里找到作弊的辦法。

OpenAI在7月9日正式推出GPT-5.6系列模型，OpenAI此前稱，在安全方面，GPT-5.6系列模型配備了該公司迄今最穩(wěn)健的安全防護(hù)措施，在生物和網(wǎng)絡(luò)安全方面的能力強(qiáng)于此前模型。

中國(guó)人工智能救場(chǎng)

Huggingface在上周的一份聲明中稱，為了應(yīng)對(duì)這一極不尋常的人工智能入侵，他們立刻使用美國(guó)最頂尖的人工智能大模型尋找解決方案。可當(dāng)Huggingface將自身遭入侵的信息提交給這些美國(guó)閉源大模型時(shí)，對(duì)方卻拒絕幫助。因?yàn)檫@些閉源大模型的安全機(jī)制過(guò)于嚴(yán)苛和僵化，無(wú)法區(qū)分描述案情的受害者和實(shí)施入侵的作案者，選擇了“一刀切”。

緊急關(guān)頭，Huggingface想到了中國(guó)同樣強(qiáng)大，而且開源的大模型。于是，該平臺(tái)立刻在本地部署了中國(guó)企業(yè)智譜AI開發(fā)的GLM5.2大模型，并在這款中國(guó)模型的幫助下，成功化解了這次入侵。

據(jù)公開資料，GLM 5.2發(fā)布于今年6月中旬。GLM 5.2上線首周，日均詞元調(diào)用量就增長(zhǎng)了27倍、客戶數(shù)增長(zhǎng)80倍。近日，智譜已落地1GW級(jí)國(guó)產(chǎn)AI算力數(shù)據(jù)中心建設(shè)，并全部采用國(guó)產(chǎn)AI芯片。

目前，上述人工智能失控事故已經(jīng)在美國(guó)的網(wǎng)絡(luò)上炸開了鍋。有美國(guó)網(wǎng)友表示，這簡(jiǎn)直就是科幻電影《終結(jié)者》中人工智能失控后攻擊人類的一次預(yù)演。讓更多美國(guó)網(wǎng)民震撼的，還是此事中美國(guó)頂尖的大模型拒絕提供幫助，最后得靠中國(guó)的開源大模型去對(duì)抗失控的美國(guó)閉源大模型的情節(jié)。

來(lái)源：看看新聞、中國(guó)經(jīng)濟(jì)網(wǎng)、公開信息

責(zé)編：常明德

中國(guó)品牌