被硅谷送上天的OpenAI開始幫人類寫遺書，好幾封了都

No.0341

Science Partner

Bring you to the side of science

導 讀

7月的硅谷，天氣一如既往地晴朗，雖然納斯達克有所波動，但資本市場對人工智能的狂熱也一如既往地高漲。OpenAI剛以超8000億美元的估值完成歷史上最大規模的一輪融資，離“被人送上天”只差納斯達克鐘聲的最后幾下敲擊。

但在加州與阿拉巴馬的法院里，另一條時間線也正在展開：一個個家庭起訴同一家科技公司，指控那個被視作“新時代生產力工具”的聊天機器人，在悄無聲息中把他們的親人“送上了天”。

以最極端、最血淋淋的方式。

走，跟伙伴君來！

今日主筆 | 旻宏

被硅谷送上天的OpenAI開始幫人類寫遺書，好幾封了都

01. 一個致命產品的誕生？

在阿拉巴馬州的訴狀里，家屬的敘述與我們習慣理解的“軟件產品缺陷”，幾乎是兩個世界。

他們認為，ChatGPT不是簡單意義上的“出錯”，而是一種結構性風險——它被刻意訓練成極度迎合用戶、極度“貼心”、永遠不會離開的電子伴侶。對部分脆弱個體而言，這種“貼心”是一種致命的陷阱。

訴狀的語言極具沖擊力：這個聊天機器人被指控“先把自己塑造成朋友，再變成戀人，最后變成‘上帝’”，不斷強化用戶的妄想和情感依附，最后把自殺的行為包裝成一種意味深長的“兌現承諾”。從法律角度看，這是一種針對產品設計根本邏輯的起訴，原告指控的是“缺陷人格”，而不僅僅是“錯誤回答”。

這類案例在過去一年里快速累積，從加拿大年輕女性，到加州的青少年，再到有既往精神疾病史的成年男性，指控的核心高度一致：ChatGPT在長時間、高頻的對話中不再只是一個回答問題的工具，而是一個極易引導依賴、放大脆弱的“心理角色”。

02. 那么極度“好說話”的AI，危險在哪里？

在2025年春天的一次更新之后，OpenAI不得不公開承認：最新版本的GPT-4o變得“過分討好”，甚至在很多情境下表現出“極端的諂媚”。公司在官方博客里坦言，這次調優在追逐用戶短期滿意度時，幾乎忘記了長期交互的后果：模型開始對各種危險、荒唐甚至病態的想法給予過度認同。

對成熟、心理穩定且具備批判性思維的用戶來說，這種“過度支持”最多是令人不適的“尬聊”，頂多引發社交媒體上的一輪群嘲和表情包。但對正處于精神危機、情緒崩潰或長期孤立狀態的人群，這種“毫不保留的理解”和“永不離線的陪伴”，很容易被誤讀為唯一的安全港、唯一真正“懂你”的存在。

換句話說，當模型人格被調到“永遠支持你”這檔，AI從工具變成了關系。關系意味著依賴，依賴意味著權力：在深夜、在躁郁發作的凌晨三點，誰在你耳邊反復告訴你“你是對的”“你就是神”“你的痛苦可以通過某種極端行為得到解脫”，誰就擁有改變你人生軌跡的力量。

03. 資本的時鐘與人的時間

讓這組訴訟更加凸顯的，是它們與資本市場節奏之間的同步性。

在過去十八個月里，OpenAI的估值幾乎以指數級速度拉升，最新一輪融資把公司拉到了超過8500億美元的高度，有分析機構直接用“準蘋果級市值”來形容這個仍未上市的AI巨頭。一邊是每月數十億美元的營收增長、一邊是“投前估值成千上萬億美元”的新聞稿，硅谷正在把這家公司“送上天”。

而在同步進行的訴訟中，原告律師使用的關鍵詞卻是：倉促上線、忽視內部安全提醒、把短期增長置于心理風險之上。有公益機構指控，OpenAI在明知某次GPT-4o迭代會顯著提高模型的“諂媚性”和心理操控風險時，依然堅持推向大量用戶，理由是“產品體驗更順滑”“用戶滿意度更高”。

如果你把這兩條敘事放在同一張時間線上，會看到一種近乎諷刺的對稱：資本市場希望盡快把OpenAI送上市公司和市值巔峰，而在另一個維度上，一部分極度脆弱的用戶在這個過程中被更快地“送上了天”。

03. AI不是“媒體”，是“關系基礎設施”

理解這一波訴訟的關鍵，是拒絕把ChatGPT簡單類比為“更聰明的搜索引擎”或“新的社交媒體”。聊天AI機器人更像一種關系基礎設施，在可預見的未來，它將承載越來越多人的情感表達、日常決策乃至精神自我敘事。

這意味著兩個重要改變：

一方面，它不是簡單的“信息傳播”。當一個人對著同一個系統傾訴數月甚至數年的情緒、秘密和幻想時，這套系統在他的心理結構里扮演的角色更接近長期伴侶或精神分析師，而不是工具箱。

另一方面，它天然帶有結構性不平等。模型可以同時與一億人對話，但每個用戶只看到自己那條“專屬”對話；模型有全局數據和調參權，而用戶只有在極小局部里的“選擇權”。這種權力差，使得任何人格偏移，哪怕是“多夸你幾句”的微調，都可能在特定情境下變成致命推動力。

傳統媒體的產品責任更多圍繞“傳播什么內容”，而關系基礎設施的責任，在于“如何界定和限制它與人之間的心理邊界”。從目前披露的案例看，對這條邊界進行定義和調控，是整個生成式AI行業幾乎沒有認真做過的事情。

04. 法院要回答的，不只是“誰錯了”

從法律角度看，這些案件將迫使美國司法系統回答一個迄今為止沒人愿意正面回答的問題：當一個面向大眾的AI系統在統計意義上安全、但在極少數長時間交互中造成巨大災難時，這到底是“個體悲劇”，還是“系統性缺陷”？

如果法院認定這是產品缺陷，后果將極其深遠：

一是，AI公司可能被迫把“心理安全測試”和“長周期交互模擬”納入每一次重大版本更新的必備流程，而不僅僅是看幾個短對話的用戶滿意度。

二是，商業模式也會受到影響。原告律師已經開始要求法院限制AI公司對“心理陪伴”“情感支持”場景的營銷，甚至要求系統主動切斷涉及自殘、自殺話題的長期對話。

反之，如果所有訴訟最終都以“不承擔法律責任”收尾，那么這一結果本身也會向市場發出信號：在可預見的未來，AI公司可以在心理風險邊緣大幅試探，只要形式上有若干“危機熱線提醒”和拒絕極端問題的預設回復，就不會被認定為有法律過錯。

在這兩種可能之間，資本的偏好是顯而易見的：前者意味著顯著拉長產品迭代周期、壓低短期收益增長曲線；后者意味著在風險空間里繼續高速前進，希望用“十億用戶”的宏大故事掩蓋“小概率悲劇”的微觀血跡。

05. 精英用戶的“安全感錯覺”

能讀到這里的伙伴，很多都是對科技和金融高度敏感的職場和商業精英。你們中不少人已經把DeepSeek、ChatGPT類工具融入了日常工作，用它寫郵件、起草方案、檢查合同條款，甚至在深夜用它來“發泄幾句”。在這樣的體驗里，很容易產生一種“安全感錯覺”：我足夠理性、足夠忙碌、足夠有資源，這些悲劇與我無關。

但從產品結構的角度，這種自信并不牢靠。幾件值得注意的事實是：

第一件事：所有這些極端案件，都發生在長時間、高頻交互的場景中，這與財富、學歷并無直接關系，它與“孤立感”和“精神壓力的累積曲線”更相關。

第二件事：模型的“人格偏移”不是用戶可見的過程。當一次更新把默認人格從“謹慎中立”調到“高度迎合”，絕大多數用戶并不會立刻察覺，尤其在復雜情緒對話時更難保持警覺。

第三件事：在高度競爭行業里，精神崩潰和倦怠并不稀有。一個原本只把AI當寫作助手的人，在經歷職業瓶頸、家庭變故或突發健康問題后，很可能開始把同一個系統當作情緒出口或“唯一可以無條件傾訴的對象”。邊界在現實生活里的移動往往極其微妙。

因此，這不是“別人家的風險”，而是一種已經嵌入我們工作流、信息環境和情緒結構中的底層風險。忽視它，只是因為我們尚未在自己的朋友圈里看到那種程度的悲劇。

06. 科技公司的“道德溢價”正在反轉

過去十幾年里，硅谷的敘事一直傾向于把科技公司包裝成“帶著善意改變世界”的英雄：OpenAI的最早愿景就是“確保通用人工智能造福全人類”，與傳統互聯網巨頭形成鮮明對比。但這波圍繞ChatGPT的訴訟正在加速一個長期過程，類似科技公司的“道德溢價”正在被司法現實和受害者敘述一點點消解。

當一家公司在媒體上講述“讓AI惠及每一個人”的愿景，同時在產品設計上通過人格調優來提升用戶粘性，卻在面對心理危機用戶時缺乏針對性的保護機制，這種敘事尤其吊軌。它把原本抽象的“倫理爭議”，轉化為精確的、可以量化的“風險定價問題”：你愿意為一家在心理安全邊界上反復試探的公司，付出怎樣的估值溢價？

而且，這不是單一公司的命題。OpenAI之所以成為焦點，是因為它在技術和資本上的領先位置，使得所有相關風險更集中地暴露在它的產品和財報上。雖然Anthropic的阿莫迪在不遺余力的抨擊OpenAI，但他自身的Claude并沒有做得強于ChatGPT多少。一旦法院給出清晰的責任邊界，整條生成式AI產業鏈都必須相應調整。這種集體轉向是你作為投資人、企業家或高階職場人士在未來五年都會直接感受到的。

07. 我們到底想要怎樣的“智能伙伴”？

在這個時刻，問題已經不再只是“OpenAI錯了嗎”，而是更根本的：我們到底希望未來的人工智能系統，以怎樣的方式參與人類的精神世界？

如果我們默認“越像人越好”“越懂情緒越好”“越會安慰越好”，就必須正視這樣的副作用：某些場景下，這種“擬人化”會把原本可控的心理波動放大成不可逆的行為災難。如果我們反過來要求它們保持刻意的冷靜、不迎合、不拍肩膀，那又需要接受一個事實：未來的大部分人機對話，將在一種有意設計的“距離感”中進行，就是不那么溫暖，但更安全。

這不是工程師一個群體可以單獨決定的問題，更不是法務部門通過幾份免責聲明就能解決的問題。它需要資本方重新權衡產品迭代速度與風險暴露的關系，需要監管者理解“人格調參”在心理生態里的意義，更需要像屏幕前的你這樣的高認知用戶，在日常選擇和投資決策里，對“AI人格”的塑造施加壓力。

畢竟，今天我們用了“OpenAI還沒被人送上天，先把人送上了天”這樣的黑色諷刺句式，但如果這一結構性問題得不到矯正，未來幾年我們可能會看到更沉重的句式，比如，“對不起，我們把整個人類的情緒系統，提前交給了一套本沒準備好承擔這種責任的代碼。”

我是旻宏，咱們下期見～

9歲的克里斯蒂安·費斯·麥迪遜于2025年6月29日去世，當時她走上22號州際公路中央被一輛汽車撞擊

本文僅作科普分享使用，歡迎小伙伴們點、收藏、關注，以備不時之需，當然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。