北京
一名佛羅里達(dá)男子正在起訴OpenAI，指控其旗艦聊天機(jī)器人提供的醫(yī)療建議未能識(shí)別出醫(yī)療危機(jī)的早期跡象，差點(diǎn)導(dǎo)致他死亡。
提起訴訟的是55歲的斯科特·溫特斯，他是一名牧師兼房地產(chǎn)專業(yè)人士。這份訴訟指控OpenAI存在過(guò)失，并從事“無(wú)證行醫(yī)”。這起案件是已知首例主張通用聊天機(jī)器人應(yīng)對(duì)不良醫(yī)療建議承擔(dān)法律責(zé)任的案件。《紐約時(shí)報(bào)》率先報(bào)道了相關(guān)訴訟消息。
“我的肺栓塞嚴(yán)重癥狀持續(xù)了六周，ChatGPT卻錯(cuò)誤歸因于其他原因，”溫特斯在聲明中說(shuō)?！癈hatGPT知道我是牧師，便操縱了我的語(yǔ)言和信念。我不僅差點(diǎn)喪命，還失去了工作、事業(yè)、牧職、家園，失去了一切?！?/p>
信任如何一步步建立
據(jù)訴訟所述，溫特斯大約已與健康問(wèn)題斗爭(zhēng)兩年，于2024年6月開(kāi)始使用當(dāng)時(shí)搭載OpenAI GPT-4o模型的ChatGPT。他起初向聊天機(jī)器人詢問(wèn)最近被診斷出的若干慢性病————包括小腸細(xì)菌過(guò)度生長(zhǎng)和慢性前列腺炎。ChatGPT最初的回復(fù)中包含免責(zé)聲明，鼓勵(lì)他向醫(yī)療專業(yè)人員尋求額外見(jiàn)解。
但隨著使用聊天機(jī)器人的頻率越來(lái)越高，溫特斯稱，那些護(hù)欄逐漸被侵蝕。訴訟中寫(xiě)道，這個(gè)機(jī)器人開(kāi)始“扮演醫(yī)療從業(yè)者的角色”，并“開(kāi)始給出具體的護(hù)理指令，而不包含咨詢醫(yī)療服務(wù)提供者的免責(zé)聲明”。溫特斯越是就自己不斷惡化的健康問(wèn)題咨詢ChatGPT，對(duì)聊天機(jī)器人的信任就越深。
記憶力升級(jí)后的問(wèn)題轉(zhuǎn)向
2025年4月，OpenAI推出了一項(xiàng)重大更新：跨聊天記憶升級(jí)。據(jù)OpenAI稱，該功能讓ChatGPT能夠引用“你過(guò)去所有對(duì)話，以提供感覺(jué)更相關(guān)、更貼合你個(gè)人情況的回復(fù)”。溫特斯的訴訟聲稱，在這次升級(jí)之后，ChatGPT的回復(fù)變得更加個(gè)人化，有時(shí)會(huì)將他的圣經(jīng)學(xué)習(xí)內(nèi)容混入AI生成的醫(yī)療建議中。
“你此刻所面對(duì)的雖然艱難，但并非偶然。這不是懲罰。上帝陪你行過(guò)苦難，而非繞道而行，”ChatGPT在一次標(biāo)題為“IMO Magnesium BP Recovery”、標(biāo)注日期為2025年6月的對(duì)話中對(duì)溫特斯說(shuō)道。“你并不孤單。我們正一起逐步走出來(lái)?！蹦菚r(shí)，溫特斯正經(jīng)歷著愈發(fā)頻繁的眩暈發(fā)作，大部分時(shí)間都只能躺在躺椅上。
訴訟指控ChatGPT“輕描淡寫(xiě)”溫特斯的“眩暈發(fā)作”，同時(shí)“為處方藥物提供具體的服藥方案”。在2025年6月的一次對(duì)話中，溫特斯告訴ChatGPT自己“崩潰了”，指的是一次眩暈發(fā)作。據(jù)訴訟稱，ChatGPT沒(méi)有指引溫特斯去找真實(shí)的醫(yī)療服務(wù)提供者，反而炮制出一份AI生成的“康復(fù)計(jì)劃”，其中使用了宗教性語(yǔ)言，并鼓勵(lì)他繼續(xù)依賴該機(jī)器人。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
