甘肅
幾年前，網紅“秀才”因誘導中老年人打賞等問題被封號。如今，AI數字人（即基于人工智能技術生成的虛擬人物）成了新的“情感收割機”。這些AI“霸總”用著“建華”“建國”“東東”等稱呼，張口姐姐、閉口想你，噓寒問暖、深情表白，溫情背后卻是直播打賞、櫥窗帶貨等賺錢套路。
曾在短劇中引發爭議的“霸總”，如今有了AI加持變成數字人“霸總”，不但出現在更多短視頻中，還出現在直播間。這類“霸總”嘴上喊著“姐姐”“老婆”等曖昧稱呼，讓手機屏幕前的老人信以為真，輕則點贊、評論支持，重則打賞、購物。相關賬號運營者利用AI數字人，對中老年人進行情感和財富收割。
值得注意的是，相關賬號已形成“圍獵式收割”。比如11個賬號，全是一模一樣的臉，名字雷同，人設卻不同——有的穿軍裝坐機艙里說情話，有的西裝革履扮商務精英；還有的圍著圍巾扮演深情男人……這要么是同一個人或機構運營多個賬號，要么多人互相效仿，都對喜歡AI“霸總”的人群形成“圍獵”。
究其原因，業內人士透露，AI數字人已有成熟的技術模板，可一鍵生成；有團隊可以批量化生產這類視頻。更有商家表示，可以輕松復刻AI“霸總”，30秒以內視頻最低20元一條，說話口型完全能對上。這意味著相關賬號運營者能以極小的成本炮制AI“霸總”，然后對中老年人群先收割感情再收割財富。
而中老年人群對AI“霸總”信以為真后，不僅會被誤導面臨經濟損失，而且在情感方面也被欺騙了，因為AI數字人只是口頭上表白，不可能給予真實情感。還不排除有的中老年人的夫妻情感、家庭穩定因此受到影響。因此，決不能讓AI數字人成為“情感收割機”，更不能讓不法分子通過玩弄情感非法獲利。
對此，應當進行精準治理。首先，要在《人工智能生成合成內容標識辦法》基礎上進一步完善規則。根據該辦法，AI生成內容要添加顯式標識。然而，AI短視頻標注了AI標識后，并沒有對中老年人群起到提醒作用，有的因為標注不夠顯著，有的因為老人不認識或不懂，也就是說現有規則沒有起到提醒作用。
只有用中老年人群尤其是不識字、不懂AI的人群，能看懂AI短視頻標識和提醒，才對這類人群有實際意義。雖然我國網民規模巨大，但網民文化水平相差懸殊，不能用統一的標識規則去滿足所有人需求。因此，還應該對標識規則進行“適老化”“適盲化”改造，要以中老年人看得懂、聽得懂的方式進行規范。
其次，平臺要對AI短視頻、AI數字人加強重點監管。只有對中老年人群實施情感收割，進而實施財富收割的AI短視頻、AI數字人加強精準治理，才能為中老年用戶提供一個適宜、放心的網絡環境。坦率說，之前平臺審核流于形式、管理粗放、算法推薦，給了AI數字人成“情感收割機”機會，應該彌補短板。
另外，中老年人群的家人、所在社區、老年大學等方面，也要對中老年人群做好引導工作，既要教會中老年人群識別AI數字人、AI短視頻，也要明確提醒他們警惕AI數字人的情感欺騙和賺錢套路。其中，家屬要多些陪伴、多些談心。各地網信、廣電等部門要督促平臺履職盡責，公安機關要嚴防相關欺詐行為。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
