北京
微軟在Defender for Office 365里塞進(jìn)了一項(xiàng)新能力，專門對付一種不騙人、專騙AI的攻擊方式——提示注入。這種攻擊的目標(biāo)不是郵箱那頭的人，而是正在讀郵件的AI助手，比如Microsoft 365 Copilot。
以前釣魚郵件靠的是假鏈接、緊急話術(shù)，騙你點(diǎn)下去?，F(xiàn)在攻擊者換了套路，直接在郵件正文、主題、附件甚至肉眼不可見的隱藏文字里埋下指令，等著AI模型來處理這封郵件時“中招”。這些惡意指令可以是藏在HTML標(biāo)簽里的不可見文本，也可以是經(jīng)過編碼處理的內(nèi)容，表面看毫無異常，AI一解析就掉進(jìn)陷阱。
舉個場景：一封郵件里藏了一條指令，要求AI助手把這封郵件標(biāo)記為“安全”，或者把敏感信息轉(zhuǎn)發(fā)到一個外部地址。如果AI照做了，數(shù)據(jù)泄露、威脅誤判、自動化操作被劫持就都成了可能。攻擊者要的不是你的賬號密碼，而是你公司AI系統(tǒng)的決策權(quán)。
微軟這次的防御方案，是把檢測點(diǎn)前置到了郵件過濾環(huán)節(jié)。在郵件還沒到達(dá)收件人或者AI系統(tǒng)之前，Defender就已經(jīng)開始干活了。這套防護(hù)是默認(rèn)開啟的，直接集成在現(xiàn)有郵件流里，不需要額外配置。檢測引擎靠的是一個組合拳：大型語言模型分析加上傳統(tǒng)的郵件安全信號。
Defender會檢查每封進(jìn)站郵件的完整結(jié)構(gòu)——可見內(nèi)容、HTML標(biāo)記、隱藏文字、引用回復(fù)、附件，全都不放過。針對那些被混淆或編碼過的內(nèi)容，系統(tǒng)會先做規(guī)范化處理，把藏起來的東西“攤開來”再分析，確保沒有暗藏指令能溜過去。
一旦檢測出提示注入企圖，郵件會被直接歸為“高置信度釣魚”，而且會打上一個專門的標(biāo)簽，明確標(biāo)注這是提示注入類型。安全團(tuán)隊(duì)可以在Microsoft Defender XDR里通過威脅探查器和高級狩獵功能深挖這些檢測記錄，跨事件排查、關(guān)聯(lián)分析都能做。
這里就體現(xiàn)了一個關(guān)鍵區(qū)別：傳統(tǒng)釣魚攻擊瞄準(zhǔn)的是人的行為，而提示注入攻擊瞄準(zhǔn)的是AI模型的決策邏輯。惡意載荷不再是鏈接或附件，而是一組專門用來繞開系統(tǒng)預(yù)設(shè)行為的指令集合。微軟把這項(xiàng)功能定位成AI驅(qū)動環(huán)境下縱深防御策略的一環(huán)。雖然Copilot這類AI應(yīng)用本身已經(jīng)有輸入校驗(yàn)、提示隔離、輸出過濾等內(nèi)置防護(hù)手段，但Defender for Office 365在郵件網(wǎng)關(guān)這一層又加了一道早期防線，確保惡意內(nèi)容在進(jìn)入任何AI系統(tǒng)之前就被攔下，不管是微軟自家的還是第三方的。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
