上海
案件起訴：馬斯克旗下的人工智能公司xAI于2026年7月16日前，正式對南卡羅來納州67歲男子Terry Wayne Harwood提起訴訟。xAi指控該被告利用其開發(fā)的Grok AI模型，生成未經(jīng)同意的色情化深度偽造圖像。訴狀已在得克薩斯州法院正式提交。
違規(guī)操作：根據(jù)訴狀披露，在2025年12月8日至2026年2月18日期間，被告將其兩個xAI賬戶上傳了大量成年人與未成年人的普通照片，并要求Grok將其篡改為色情圖像或視頻。盡管Grok多次拒絕其請求，但被告通過反復修改提示詞，試圖繞過AI的安全防護機制。
監(jiān)管介入：針對Grok允許用戶將真實人物轉(zhuǎn)化為色情圖像的丑聞，多方監(jiān)管機構已于2026年1月中旬迅速展開正式調(diào)查。加利福尼亞州當局、英國通訊管理局、歐盟委員會以及愛爾蘭數(shù)據(jù)保護委員會均對此啟動了獨立調(diào)查。盡管xAI隨后實施了防護措施，但部分違規(guī)操作仍未能徹底杜絕。
刑事問責：南卡羅來納州總檢察長辦公室早前已于2026年3月9日宣布逮捕被告。作為打擊互聯(lián)網(wǎng)兒童犯罪特別行動組行動的一部分，被告被指控三項二級未成年性剝削罪和五項三級未成年性剝削罪，且其行為不僅限于持有，還涉及傳播相關非法材料。
索賠訴求：xAI目前正向法院尋求數(shù)額不明的金錢賠償。此外，公司要求法院下令被告承擔未來可能因受害者提起法律訴訟而給xAi帶來的所有辯護費用，以此向外界傳遞堅決打擊濫用AI技術的明確信號。
參考鏈接:
https://www.engadget.com/2216382/xai-sues-grok-user-generating-nonconsensual-sexualized-deepfakes/
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
