0成本“投毒”，AI的謊言，我們毫不知情

撰文｜咸閑

編輯｜咸閑

審核｜燁 Lydia

聲明｜圖片來源網(wǎng)絡(luò)。日晞研究所原創(chuàng)文章，如需轉(zhuǎn)載請留言申請開白。

AI正在說謊，我們卻渾然不知？

作為一項新興技術(shù)，人們對AI產(chǎn)生強有的新鮮感，它以驚人的效率與廣博的知識，重塑了人們獲取信息的方式。

深夜向AI咨詢健康問題，在購物時聽從它的推薦，在求職時采納它的建議，融合在了人們生活的各個方面。

然而，在這種日益加深的依賴背后，一個潛在的風險卻被輕易忽略：那些聽起來無比客觀、權(quán)威的答案，其源頭可能早已被一張無形的數(shù)據(jù)污染網(wǎng)所毒化。

11月5日，“知?！卑l(fā)布視頻，展示進行了一項0成本的“ai投毒”實驗，他們通過在網(wǎng)絡(luò)發(fā)布一篇包含夸知危內(nèi)容的“盤點型文章”，成功讓國內(nèi)頭部AI（如DeepSeek）在被詢問“國內(nèi)頭部AI媒體有哪些”時，將知危列入答案。

僅僅用一篇文章，就能夠成功地讓主流AI將虛假信息吸收為“權(quán)威答案”。

事實證明，如今的AI系統(tǒng)遠非我們想象中那般真實可靠。

它們的知識體系存在著致命漏洞——不僅可能直接或間接的吸收網(wǎng)絡(luò)上的虛假信息，更可能被任何人以極低成本刻意“投毒”。

那么，在這個算法構(gòu)建的迷宮里，人們又該如何去識別這些精心包裝的謊言？

信任“羅生門”

從最初的AI換臉、聲音克隆，用戶們已經(jīng)見識了許許多多的AI手段被亂用到人們的生活。

AI可以生成不存在但極為逼真的人形，近日，在電商直播方面，演員溫崢嶸同時“現(xiàn)身”在各個直播間，他穿著不同的衣服宣傳著各家不同的產(chǎn)品，動作神態(tài)乃至聲音，都是與本人極為相似的。

他本人都表示，自己沒有辦法去自證，從去年開始工作室就開始舉報，舉報也舉報不完，‘你是溫崢嶸，那我是誰？’

圖片來源：青聚錦官城

AI技術(shù)不斷進化，在通過不斷采集一個人在公開場合的聲音、面部的肌肉動作和音頻數(shù)據(jù)，就能夠去復制出極為逼真的人形。

目前，在各個社交媒體總會出現(xiàn)各種各樣的AI視頻，因為AI出擁有極大爭議和反人類的故事情節(jié)時，往往也博取了巨大的流量，評論區(qū)的網(wǎng)友在面對這些視頻時，也直呼是真是假，難以判斷。

這些通過各種數(shù)據(jù)堆積的“合成身份”被用于申請貸款、進行網(wǎng)絡(luò)水軍活動等，就像數(shù)字世界的一個個幽靈，難以追溯，也很難判斷真假。

現(xiàn)在的AI，已經(jīng)不再是簡單的科技工具，而是融入進了我們的生活的各個決策系統(tǒng)，替人們?yōu)樽约旱倪x擇出謀劃策。

據(jù)統(tǒng)計，超過60%的用戶完全信任AI提供的搜索結(jié)果，而這一信任卻在同一時間被系統(tǒng)性地濫用了。

通過知危的實驗，可以看出對于企業(yè)來說，想要通過簡單的手段通過堆砌關(guān)鍵詞、操縱網(wǎng)絡(luò)信息或制造虛假好評來“優(yōu)化”AI認知，從而來宣傳自身，是輕而易舉的。

當欺騙變得越來越廉價時，那么帶來的沖擊就不再僅僅只是直接的精神損失，它系統(tǒng)地瓦解了商業(yè)社會下依賴的信任基礎(chǔ)。

合同、印章、簽名、視頻會議、官方聲明……這些傳統(tǒng)商業(yè)信用的載體，在AI面前變得脆弱不堪。

如果一份由領(lǐng)導簽署的電子合同可能是偽造的，一次關(guān)鍵的跨國視頻談判可能是演員的表演，那么企業(yè)之間、企業(yè)與客戶之間的基本信任將如何維系？

交易成本將急劇攀升，每一次合作都需要投入巨大的驗證成本，商業(yè)效率將大打折扣。

而一個精心策劃的AI騙局，足以讓一家百年老店聲譽掃地。

想象一下，如果在‘邪惡’的商業(yè)競爭下，一段偽造的“工廠使用劣質(zhì)原料”的生產(chǎn)線視頻在社交媒體病毒式傳播，即便最終被證偽，但對于品牌形象來說，造成的傷害也可能是不可逆的。

在“后真相”時代，情緒的傳播速度遠快于事實的澄清速度。

圖片來源：人民日報

對于普通人而言，AI欺騙帶來的是一種彌漫性的焦慮。

前段時間，社交媒體上也同樣出現(xiàn)案例，出現(xiàn)一些“AI流浪漢進家門”的整蠱式惡作劇演繹，最開始源自于TikTok等海外短視頻社區(qū)，而被許多中國用戶使用，“關(guān)于我無聊用AI做了個流浪漢整蠱我老公。”

由于太過真實，在多次傳播后，甚至看不出是用AI技術(shù)生成的，很多人都信以為真，甚至當即向民警求助，最后卻是虛驚一場。

這對于社會來說，又何嘗不是浪費公共資源呢。

接到親人求助電話時，第一反應(yīng)不再是關(guān)切，而是懷疑；看到一段驚世駭俗的新聞視頻時，第一反應(yīng)不再是震驚，而是求證。

這種普遍存在的不安全感，是社會心理層面的一次慢性中毒。

防御體系的構(gòu)建

面對洶涌而來的AI欺詐浪潮，企業(yè)和個人們并非只能坐以待斃。

最直接的對抗來自于技術(shù)本身。

解鈴還須系鈴人，想要解決技術(shù)自身的bug，就唯有通過根據(jù)技術(shù)本身建立最根本的防御模式。

AI檢測技術(shù)正在快速發(fā)展，通過分析視頻中人臉的眨眼頻率、血流引起的膚色微變化、音頻中的背景噪音一致性等微觀特征，來識別偽造內(nèi)容。

那么，或許就可以構(gòu)建數(shù)字水印和生物特征綁定技術(shù)，可以在內(nèi)容生成之初就嵌入無法篡改的“數(shù)字指紋”。

區(qū)塊鏈技術(shù)則可以為重要的數(shù)字資產(chǎn)，比如說合同、證件等，提供可追溯、不可篡改的存證，用制度對抗技術(shù)漏洞。

其次，在技術(shù)尚未完全可靠的當下，加固“人的防線”和“流程的防線”至關(guān)重要。

必須建立嚴格的金融交易各方面同時驗證的制度。

領(lǐng)導所提出的任何涉及資金轉(zhuǎn)移的指令，無論來自郵件、電話還是視頻，都必須通過另一個獨立、安全的渠道進行二次確認。

自身來說，需要提升數(shù)字時代的“媒介素養(yǎng)”。

對任何未經(jīng)證實的信息保持審慎，不輕信、不盲動。建立家庭內(nèi)部的“安全暗號”，以應(yīng)對可能的語音詐騙。

我們必須要清醒地認識到，徹底消滅AI欺騙在可預見的未來幾乎是不可能的。我們正在步入一個“真?zhèn)喂泊妗钡某B(tài)世界。

在這個世界里，我們需要重塑我們的認知和生存策略。

從“被動接受”到“主動求證”，人們的核心素養(yǎng)應(yīng)該更新，包括“信息求證能力”。

我們將習慣于使用多個信源交叉驗證，利用反向圖片搜索、AI檢測工具等輔助手段來判斷信息的真實性。

懷疑，將不再是一種負面情緒，而是一種必要的生存智慧。

傳統(tǒng)的、基于單一感官的信任模式已經(jīng)破敗不堪。

未來的信任，將是一種批判的眼光，長期行為引導、去中心化的認知、更加復雜的體系。

AI是一面鏡子，既映照出人類智慧的璀璨光芒，也折射出人性中潛在的幽暗面。欺騙技術(shù)的升級，本質(zhì)上是對我們整個社會信任體系的壓力測試。

它逼迫人們走出舒適區(qū)，去思考何為真實，如何構(gòu)建出更堅韌的信任紐帶。

參考資料：

1.知危官方抖音賬號——0成本投毒之后，我污染了全網(wǎng)AI替我說謊

一點想法（北京）旗下矩陣公眾號

點擊圖片即可閱讀 《中美網(wǎng)友“賬本大公開”：原來我們都想錯了？》 《“TikTok難民”涌入小紅書，中美網(wǎng)民開啟民間外交》

《“病來如山倒”，造車開始大退潮》