整治AI毒動(dòng)畫、炒作網(wǎng)紅兒童等亂象 “清朗”行動(dòng)劃定監(jiān)管紅線

如今，看手機(jī)、刷視頻，早已不是成年人的專利。你平時(shí)刷手機(jī)時(shí)，有沒(méi)有刷到過(guò)那種扭曲改編的毒動(dòng)漫，或是把小朋友當(dāng)成流量工具進(jìn)行炒作的網(wǎng)紅兒童視頻？不少家長(zhǎng)都為此揪心不已。而這些內(nèi)容大多藏在早教、親子的內(nèi)容里，隱蔽性特別強(qiáng)，稍不留意就會(huì)給孩子帶來(lái)不良影響。

為進(jìn)一步加強(qiáng)未成年人網(wǎng)絡(luò)保護(hù)，營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)空間，近日，中央網(wǎng)信辦印發(fā)通知，在全國(guó)范圍內(nèi)部署啟動(dòng)為期4個(gè)月的“清朗·未成年人網(wǎng)絡(luò)保護(hù)”專項(xiàng)行動(dòng)，覆蓋內(nèi)容生產(chǎn)傳播全流程、全鏈條。

此次專項(xiàng)行動(dòng)具體將如何展開(kāi)，對(duì)網(wǎng)絡(luò)平臺(tái)、違規(guī)賬號(hào)、MCN機(jī)構(gòu)分別劃定了怎樣的監(jiān)管紅線？

中央網(wǎng)信辦發(fā)布通知明確，在發(fā)布環(huán)節(jié)，將整治編造毒動(dòng)畫，利用AI技術(shù)惡搞經(jīng)典動(dòng)畫形象，刻意放大暴力恐怖元素，發(fā)布窒息挑戰(zhàn)等鼓動(dòng)危險(xiǎn)行為，還要整治包裝炒作“神童轉(zhuǎn)世”“早熟小美女”等，打造爭(zhēng)議兒童人設(shè)。還有整治擺拍逃學(xué)曠課、厭學(xué)躺平等，宣揚(yáng)不良價(jià)值觀等視頻內(nèi)容。

北京師范大學(xué)法學(xué)院教授、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括介紹：

AI毒動(dòng)畫的危害主要在于其隱蔽性和精準(zhǔn)性，常常通過(guò)偽裝成兒童動(dòng)畫來(lái)實(shí)施精神侵害。事實(shí)上它通過(guò)迷惑家長(zhǎng)們，給自己套上益智早教的標(biāo)簽，對(duì)孩子用熟悉的動(dòng)畫形象來(lái)吸引注意力，暗中的植入各種消極元素，比如暴力、低俗和錯(cuò)誤的三觀。

這種精準(zhǔn)瞄準(zhǔn)未成年人的隱性侵害，具有非常深的危害性。同時(shí)AI技術(shù)的應(yīng)用大幅降低了作惡的門檻，因?yàn)樗梢酝ㄟ^(guò)簡(jiǎn)單的操作批量生成魔改的動(dòng)畫和邪惡視頻，這種內(nèi)容再沿著算法的精準(zhǔn)投放，可能會(huì)形成灰色鏈條，同時(shí)還會(huì)對(duì)孩子造成深度傷害。

在互動(dòng)環(huán)節(jié)，此次專項(xiàng)行動(dòng)還將重點(diǎn)整治以“找閨蜜”等為幌子，誘騙未成年人發(fā)送私密照片，以及部分群組以“二次元福利”為噱頭，向未成年人定向傳播色情漫畫等違法內(nèi)容，以及在未成年人出鏡視頻下發(fā)布性暗示表情包等黑話爛梗，對(duì)未成年人造成侵?jǐn)_等亂象。

北京青少年法律援助與研究中心網(wǎng)絡(luò)保護(hù)部負(fù)責(zé)人陳強(qiáng)介紹：

如今部分“網(wǎng)紅兒童”相關(guān)賬號(hào)內(nèi)容存在爭(zhēng)議性，比如宣揚(yáng)早戀、兒童軟色情等內(nèi)容，容易引發(fā)粉絲互掐行為以及用戶在評(píng)論區(qū)發(fā)布惡俗、低俗評(píng)論等，從而導(dǎo)致對(duì)未成年人群體的網(wǎng)絡(luò)暴力傷害。此外，視頻內(nèi)容也可能違背未成年人意愿，給未成年人帶來(lái)現(xiàn)實(shí)社交壓力。

未成年人頻繁參與網(wǎng)絡(luò)推廣，在這一類賬號(hào)當(dāng)中，所謂的父母感情、親子關(guān)系、日常生活都成為可能會(huì)植入廣告的場(chǎng)景，以及可能被用來(lái)隨意調(diào)侃歪曲解讀的元素。兒童本人就變成一個(gè)為了實(shí)現(xiàn)廣告反差效果的道具，長(zhǎng)此以往，可能會(huì)對(duì)兒童的價(jià)值觀以及對(duì)待生活、家庭、金錢的態(tài)度造成負(fù)面影響。

在營(yíng)銷環(huán)節(jié)，此次專項(xiàng)行動(dòng)還將重點(diǎn)整治部分直播間采取限量發(fā)售、絕版溢價(jià)等話術(shù)，誘導(dǎo)未成年人購(gòu)買盲盒抽卡；部分商家利用暗語(yǔ)誘導(dǎo)售賣電子煙，以及提供AI換臉等技術(shù)，教未成年人破解人臉識(shí)別驗(yàn)證，還有商家利用“預(yù)售享優(yōu)惠”等話術(shù)誘導(dǎo)未成年人轉(zhuǎn)賬匯款，實(shí)施網(wǎng)絡(luò)詐騙等。

據(jù)介紹，此次專項(xiàng)行動(dòng)將分為兩個(gè)階段開(kāi)展：

第一階段將抓住暑期這一關(guān)鍵時(shí)間節(jié)點(diǎn)集中整治；

第二階段將突出“長(zhǎng)效化規(guī)范”，壓實(shí)網(wǎng)絡(luò)平臺(tái)主體責(zé)任。

對(duì)此，吳沈括介紹，通過(guò)這樣先治標(biāo)后治本的兩步走模式，一個(gè)是回應(yīng)了暑期這個(gè)特定時(shí)間窗口的緊迫需求，同時(shí)為后續(xù)常態(tài)化監(jiān)管奠定了基礎(chǔ)，體現(xiàn)以集中整治推動(dòng)長(zhǎng)效機(jī)制建設(shè)的深層次考慮。

第二階段將著力規(guī)范平臺(tái)推薦行為，指導(dǎo)平臺(tái)優(yōu)化算法推薦服務(wù)機(jī)制，不得設(shè)置誘導(dǎo)網(wǎng)絡(luò)沉迷、過(guò)度消費(fèi)等算法模型。吳沈括表示算法治理的難點(diǎn)主要包括穿透算法黑箱、審查算法價(jià)值取向等挑戰(zhàn)。

吳沈括介紹，在舉措上也需要多管齊下嘗試，比如說(shuō)將“未成年人模式”從用戶的選項(xiàng)變成一種默認(rèn)的底線，在源頭上將不良內(nèi)容排除未成年人視野。另外還需要對(duì)于關(guān)鍵詞建立必要的審核和隔離機(jī)制，切斷擦邊內(nèi)容、違法內(nèi)容和未成年人興趣標(biāo)簽之間的關(guān)聯(lián)。此外還需要建立分類分級(jí)的推薦機(jī)制，比如說(shuō)對(duì)于疑似未成年賬號(hào)和低齡類的內(nèi)容，采取更高標(biāo)準(zhǔn)的推薦、隔離措施。

此外，專項(xiàng)行動(dòng)在第二階段還明確，要合理限制賬號(hào)發(fā)布未成年人出鏡內(nèi)容時(shí)長(zhǎng)頻次，MCN機(jī)構(gòu)不得利用旗下賬號(hào)包裝炒作網(wǎng)紅兒童等。對(duì)此陳強(qiáng)指出，對(duì)于那些打著親子、母嬰旗號(hào)實(shí)則將未成年人作為流量工具和牟利手段的賬號(hào)，以及那些存在宣揚(yáng)流量至上、庸俗媚俗等不良價(jià)值觀的行為，都需要加強(qiáng)限制。

陳強(qiáng)介紹，目前還沒(méi)有對(duì)網(wǎng)紅兒童相關(guān)問(wèn)題具體進(jìn)行認(rèn)定規(guī)范，比如未成年人出鏡的次數(shù)多少算多？借助未成年人牟利的具體行為和標(biāo)準(zhǔn)是什么？這些沒(méi)有具體規(guī)定，這種情況下就需要更加具體的立法進(jìn)行規(guī)范。

專家指出，網(wǎng)絡(luò)平臺(tái)應(yīng)履行內(nèi)容治理的主體責(zé)任，制定內(nèi)部網(wǎng)絡(luò)內(nèi)容認(rèn)定標(biāo)準(zhǔn)，加強(qiáng)算法推薦、內(nèi)容審核、商業(yè)營(yíng)銷等方面管理；而家長(zhǎng)要尊重未成年人子女的意見(jiàn)，避免將功利化思維傳達(dá)給孩子。

陳強(qiáng)介紹，從大眾角度來(lái)說(shuō)，在看到網(wǎng)絡(luò)上未成年人相關(guān)問(wèn)題的時(shí)候，當(dāng)我們刷短視頻刷到這些信息的時(shí)候，不要只是簡(jiǎn)單滑走，你可以積極向平臺(tái)反饋?zhàn)鳛橛脩舻囊庖?jiàn)，來(lái)督促平臺(tái)重視問(wèn)題，進(jìn)行改變。

（中央廣播電視總臺(tái)中國(guó)之聲）