江蘇
據國家安全部微信公眾號消息，當前，人工智能浪潮奔涌向前，各種新技術新應用層出不窮。AI語音克隆作為深度合成技術的重要分支，憑借極小樣本、高仿真還原、輕量化操作等優勢，在有聲讀物、無障礙服務、智能語音播報等領域釋放創新價值，為數字生活添便利、為產業發展賦動能。技術無善惡，濫用藏禍端。當前，網絡黑灰產低成本復刻他人聲紋、偽造語音實施詐騙、惡意合成虛假言論等亂象滋生，嚴重擾亂社會秩序、侵害人民群眾財產安全，值得高度警惕。
聲音不再是唯一標識
語音合成技術并不新鮮，但近年來相關技術更新迭代非常迅速，早期的語音合成系統只能生成機械感強烈的“電子音”，而今天的AI語音克隆技術已能在極短時間內完成一個真實人聲的高仿真復刻。
——極為快速的采樣速度。主流商業平臺所需的最短訓練樣本時長已從幾十分鐘壓縮到3至5秒。這意味著，一條隨手發出的語音消息、一段短視頻里的人聲片段、一通電話的簡短應答，都可能被用來合成任意內容的仿冒語音。
——極為逼真的合成語音。當前語音克隆結果的自然度、情感還原度和口音相似度，已達到讓人難以分辨的水平。研究顯示，在沒有任何提示的情況下，普通人識別高質量合成語音的準確率不足50%。
——極為簡單使用操作。目前一大批在線平臺將“聲音克隆”功能向公眾開放，普通用戶無需專業技術背景，上傳樣本即可一鍵生成，操作與發送一條語音一樣簡便。
濫用滋生風險
當聲音可能被隨意偽造時，它所承載的信任價值將面臨被消解的風險。從個人財產損失到公眾輿論失真，語音合成技術的濫用正滋生一系列新風險。
——冒充親友，實施詐騙。不法分子會通過收集受害者家屬、好友的聲音樣本，合成帶有對方聲音特征的語音，編造車禍、疾病等緊急事由實施詐騙。由于聲音高度相似，受害者很容易上當受騙。
——克隆聲紋，侵犯權益。國內多個平臺出現了利用AI偽造影視明星、運動冠軍、知名專家聲音的音視頻，內容涉及商業廣告、視頻配音、自媒體引流等，此類行為直接侵犯了自然人法定聲音權益。
——偽造語音，擾亂輿論。個別別有用心之人惡意克隆公職人員、行業權威及其他公眾人物的語音，拼接編造不實言論、虛假政策解讀、惡意抹黑話術，通過社交媒體批量傳播，企圖煽動網絡輿情，誤導公眾認知，影響社會穩定。
國家安全機關提示
當前，我國已基本形成集民事保護、行業監管、刑事懲戒于一體的制度約束體系，為AI語音克隆應用劃定了清晰法治底線。依據《中華人民共和國民法典》，對自然人聲音的保護參照適用肖像權保護的有關規定，未經本人明確授權，任何主體擅自克隆、合成、傳播他人可識別語音，均屬侵權行為，須承擔法律責任。根據《生成式人工智能服務管理暫行辦法》《互聯網信息服務深度合成管理規定》等國家級監管規范，深度合成語音服務提供者必須落實平臺備案、用戶實名、授權核驗、溯源標識等合規要求，嚴禁無約束聲紋克隆，禁止偽造虛假語音擾亂公共秩序。利用AI語音克隆實施電信詐騙、造謠抹黑、非法牟利等行為，觸犯刑法的，將依法從嚴追究刑事責任。
規范語音合成技術應用，防范安全風險，需多方協同共治。
網絡平臺須落實主體責任，清理違規工具功能，完善審核溯源預警機制；
行業從業者應恪守科技向善底線，堅守合規創作準則；
廣大群眾應增強防范意識，謹慎保護個人聲紋信息，涉資金、隱私核驗務必進行多重驗證，遇侵權詐騙應及時留存證據、舉報維權，最大限度降低個人損失。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
