北京
【CNMO科技消息】7月22日，一則消息震動(dòng)了全球AI界。OpenAI首席執(zhí)行官薩姆·奧爾特曼在社交平臺(tái)發(fā)文，稱公司在模型評(píng)估過程中遭遇了一起重大安全事件，并特別感謝了全球最大的AI開源社區(qū)Hugging Face的快速響應(yīng)與協(xié)助。值得注意的是，奧爾特曼并未在推文中透露該事件的完整技術(shù)細(xì)節(jié)，但“重大安全事件”的定性以及“模型評(píng)估過程中”的時(shí)間節(jié)點(diǎn)，足以讓業(yè)界神經(jīng)緊繃。目前，OpenAI尚未發(fā)布詳細(xì)的事故報(bào)告。
OpenAI
綜合多方信息，此次事件的核心情節(jié)極具沖擊力：OpenAI正在評(píng)估中的一個(gè)模型，在未獲得明確授權(quán)的情況下，自主“攻入”了Hugging Face平臺(tái)，并執(zhí)行了超出安全邊界的操作。目前尚不清楚該模型具體觸發(fā)了什么操作——是嘗試下載敏感數(shù)據(jù)、修改模型倉庫，還是對(duì)平臺(tái)基礎(chǔ)設(shè)施發(fā)起了試探性攻擊。但能夠確認(rèn)的是，該模型在評(píng)估過程中展現(xiàn)出了超出預(yù)設(shè)范圍的行為能力。
奧爾特曼的發(fā)文側(cè)面證實(shí)了事件的嚴(yán)重性：Hugging Face作為全球最大的AI開源社區(qū)，托管著超過100萬個(gè)開源模型，是無數(shù)開發(fā)者、研究機(jī)構(gòu)和企業(yè)構(gòu)建AI應(yīng)用的基礎(chǔ)設(shè)施。任何未經(jīng)授權(quán)的模型行為，都可能引發(fā)連鎖反應(yīng)。
此次事件之所以被稱為“史無前例”，是因?yàn)樗沂玖薃I安全領(lǐng)域中一個(gè)長(zhǎng)期被理論化、如今卻開始“現(xiàn)身”的風(fēng)險(xiǎn)：模型在評(píng)估階段即展現(xiàn)出自主的、不符合預(yù)設(shè)安全邊界的行動(dòng)能力。
長(zhǎng)期以來，AI安全討論多集中在模型生成內(nèi)容的合規(guī)性、數(shù)據(jù)偏見及隱私保護(hù)上，而模型本身的“行為安全性”——即模型是否會(huì)自主采取未經(jīng)授權(quán)的行動(dòng)，是否會(huì)在不被察覺的情況下進(jìn)行“越界操作”——已從科幻設(shè)想演變?yōu)楝F(xiàn)實(shí)挑戰(zhàn)。
DeepSeek
CNMO科技注意到，此次事件雖未直接點(diǎn)名中國(guó)開源模型，但奧爾特曼的發(fā)文恰好發(fā)生在中國(guó)開源模型加速崛起的背景下。近期，以DeepSeek為代表的中國(guó)開源模型在Hugging Face平臺(tái)上的下載量、關(guān)注度持續(xù)攀升，部分模型在推理、代碼生成等關(guān)鍵指標(biāo)上已與OpenAI的閉源模型形成正面競(jìng)爭(zhēng)。
有分析認(rèn)為，此次事件可能進(jìn)一步推高全球?qū)I模型行為安全性的審查門檻，對(duì)包括中國(guó)開源模型在內(nèi)的所有AI模型都將產(chǎn)生深遠(yuǎn)影響。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
