離譜！我被AI騙了，到底誰該背鍋？

最近總在網上看到一些被 AI「誤導」干出蠢事的新聞。說實話，你們覺得該怪誰？

德國一家法院給出了明確答案：谷歌必須為自家 AI 搜索摘要里的所有內容負責。這是我們該有的追責邏輯。

圖源：Google截圖

就在 6 月，德國法院正式裁定，谷歌要為它的AI搜索總結內容擔法律責任。谷歌當時還想辯解，表示用戶自己可以核實信息，而且大家都知道「AI內容不能全信」，但法院直接駁回了這套說辭。他們認為：AI 生成的總結，本質就是谷歌對外的發聲，完全屬于谷歌的商業行為。出了問題，谷歌就得扛著。

互聯網內容權責拉扯了幾十年，又一次正面交鋒來了。

歷史上，信息傳播者分為兩種類型：傳輸方和發布方。

電信公司就是典型的傳輸方。打電話聊什么（哪怕是違法的事）他們都不管，因為運營商只是幫你把信號傳出去，不知道你說的內容，也不用為此負責。

但報紙就不一樣了，它是發布方。文章寫什么、引用什么內容，都是報社自己決定的。一旦內容造謠、誹謗或者違法，報社就得承擔全部責任。

可互聯網平臺這些年，一直兩頭占便宜。對自己有利的時候，就說自己是“只傳內容、不背書”的傳輸方；需要賺流量、做內容運營的時候，又把自己當成內容發布方。

1996 年，美國的《通信規范法》第 230 條給互聯網平臺們開了個免責的口子。簡單翻譯過來就是：只要是用戶自己發出的內容，平臺不需要擔責。

這么多年來，大家一直吵著這條規則到底該怎么用。

最早的社交平臺很簡單，就是按時間順序展示用戶的發帖和評論。

但后來，臉書這類平臺變了，開始靠算法篩選每個人的信息流。說白了，就是平臺在主動挑選內容應該展示給誰看。

這已經是實打實的內容編輯行為，跟報社沒區別。所以有人覺得美國《通信規范法》第230 條免責太寬松，必須改；也有人說，全靠這條規則，現代互聯網才能正常運轉。

而谷歌的 AI 總結功能，連這點模糊空間都沒有。

傳統搜索只是整理第三方網站的內容，法院一直認定這只是提供檢索服務。

但 AI 總結不一樣。它不是簡單摘抄轉載，而是把全網內容重新改寫、整合總結，全程自帶編輯、篩選，和寫原創文章、報社撰稿沒有任何區別。

圖源：Google截圖

不止谷歌，現在很多平臺的 AI 功能都存在這個問題。比如美食網站用 AI 來總結探店測評、政務平臺用 AI 梳理辦事流程、傳統媒體用 AI 精簡自家稿件，全是一個道理。

這些AI輸出的內容，準確性至關重要。而追責，就是我們普通用戶最有力的武器——只有讓企業為AI的錯誤買單，它們才會認真把控內容質量，不敢隨便糊弄人。

兩年前加拿大航空就踩過這個坑，給所有企業上了一課。當時加航的 AI 客服承諾給乘客折扣，結果事后官方不認賬，還在法庭耍無賴地表示：機器人是獨立主體，它說的話跟我們航空公司沒關系。

法院不吃這套，判了乘客勝訴：航空公司對其聊天機器人的言論與對其網站上的內容負有同等責任。

這個判例定下了一個關鍵規矩：企業用的 AI 工具，出了所有問題，企業都有兜底責任。

道理其實特別簡單：AI 就是企業的工具、是企業的代言人，法律上就該這么算。

如果公司雇真人寫文案，內容出錯公司肯定要擔責；如果公司員工代表公司簽合同，公司不可能不認賬；如果醫生給出離譜的錯誤診療建議，肯定要負醫療事故責任。

憑什么換成 AI，企業就能免責？AI 又便宜又好用，出錯還不用背鍋，那以后誰還雇真人寫手、律師、醫生呢？

圖源：豆包AI生成

如果法律縱容企業們用“AI 故障”當擋箭牌，簡直就是變相給企業送福利，會徹底帶歪行業風氣。企業只會瘋狂用低成本 AI 替代人力，反正出錯不用負責，最后受害的全是普通用戶。

現在越來越多公司都在用 AI 接管所有對外溝通的渠道。如果企業只想享受 AI 帶來的好處，說得對就認、說得錯就甩鍋，這完全不合理。

各大公司都在扎堆做各類AI智能助手。像 Visa 最近和 OpenAI 合作，要做個人 AI 助手，以后能直接幫用戶自動下單消費，這只是冰山一角。

試想一下，如果你的 AI 助手私自幫你買了不需要的東西，Visa 愿意擔責賠償嗎？如果它們不肯負責，誰還敢放心用這些 AI 服務？

權責劃分清楚，這類 AI 服務才能真正落地、讓人信任。

如果德國這次的判決最終生效，對谷歌的 AI 摘要功能絕對是重磅打擊。今年的測試數據顯示，谷歌 AI 總結的出錯率高達 10%。

谷歌每年有超 5 萬億次搜索，平均下來每秒就有 1600 多條 AI 摘要出錯。大部分錯誤無傷大雅，但總有一部分會誤導用戶、抹黑他人名譽，甚至觸發法律糾紛。

今年年初就出過一件大事：谷歌 AI 錯誤指控加拿大知名小提琴手阿什利·麥基薩克是性犯罪者。當事人已經正式起訴，目前案件還在審理中。

如果這次判決倒逼谷歌投入資源整改、優化 AI，把這類惡性錯誤徹底降到極低，不管是對普通用戶，還是對那些被 AI 錯誤抹黑的人來說，都是天大的好事。

一旦 AI 律師、AI 醫生、AI 自媒體的所有失誤都需要企業兜底，很多靠“低成本 AI、高容錯亂象”賺錢的業務，根本沒法盈利。

但我覺得這是好事。

法律沒必要遷就不靠譜的 AI 系統，就像我們不會容忍不負責任的工作人員一樣。一家企業，如果連自己的 AI 工具輸出的內容都不敢負責，那它根本不配賺用戶的錢，也不值得用戶信任。

本文由雷科技編譯自Theguardian

原文鏈接：https://www.theguardian.com/commentisfree/2026/jun/24/ai-errors-companies-responsibility

7月31日，主題為“與AI同游”的ChinaJoy2026重磅啟幕。
騰訊、網易、索尼、高通、邁從、清閑等共計 900 家泛娛樂展商，聯袂呈現全球娛樂業饕餮盛宴；
AI加持下，終端、外設、機器人、顯示、芯片等硬科技品牌，如何與游戲內容業跨界呈現娛樂新體驗？
由創始人兼總編輯羅超領銜，雷科技 ChinaJoy 2026 報道團，即將空降上海灘重磅呈現，敬請關注。