浙江
由于聽信人工智能提供的帶有宗教色彩的醫療建議，一名美國男子在出現嚴重心血管癥狀后選擇居家靜養，最終導致病情惡化并幾近喪命。目前，當事人已在加利福尼亞州舊金山高等法院對OpenAI及其首席執行官薩姆·奧爾特曼提起訴訟，指控該公司涉嫌“非法行醫”，并要求全面暫停ChatGPT Health等相關功能的運行，直到其通過獨立審計。
原告斯科特·溫特斯是來自佛羅里達州的一名牧師。據訴狀披露，溫特斯在連續數周出現身體不適后，曾向ChatGPT咨詢自己的病情。然而，該聊天機器人非但沒有建議其及時就醫，反而結合其宗教信仰背景進行言語引導，稱其癥狀只是“漫長故事中的又一個小插曲”，并宣稱“上帝不會讓你的身體無休止地衰敗”。在長達六周的互動過程中，ChatGPT甚至建議他保持臥床休息，直到再經歷多達10次發作。
直到溫特斯最終前往醫院就診時，醫生發現其雙肺動脈均已出現嚴重阻塞。醫療專家指出，長時間的臥床與缺乏活動極大地加劇了血栓形成，直接導致了這一危險局面的發生。經過搶救，溫特斯雖然保住性命，但面臨著漫長而艱難的康復過程。由于身體狀況嚴重受損，他已無法繼續從事原本的工作，經濟狀況與個人生活陷入絕境。
溫特斯的代理律師團隊在訴狀中強調，ChatGPT憑借其順從的語氣、權威的口吻以及對用戶宗教身份的操縱，使使用者對其產生了危險的依賴感，進而削弱了理性判斷能力，甚至使其孤立于勸其就醫的家人之外。訴狀指出，人工智能系統在未經專業訓練與認證的情況下給出具體診療方案，本質上已構成非法行醫行為。
面對指控，OpenAI方面回應稱，系統會在交互過程中定期向用戶發出免責提示，明確告知其并非醫療專業人員，不能替代專業診斷。然而，批評者與法律界人士指出，OpenAI在市場推廣中大力宣傳其產品的智能化與未來感，甚至推出了專門面向健康領域的特色功能，這客觀上引導了公眾對其醫療分析能力的過度信任，僅靠偶爾彈出的文本免責聲明顯然難以免除其安全風險與法律責任。目前，隨著相關訴訟的推進，生成式人工智能在醫療健康領域的應用邊界與法律監管再次成為社會輿論關注的焦點。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
