中央出手整治AI毒動畫：未成年人保護(hù)，為什么開始從"算法"下手？

近日，中央網(wǎng)信辦啟動為期4個月的"清朗·未成年人網(wǎng)絡(luò)保護(hù)"專項行動。

與以往相比，這次專項行動有一個明顯變化。

AI惡搞經(jīng)典動畫、獵奇AI短劇、炒作"神童""早熟小美女"、軟色情陪聊、誘導(dǎo)未成年人消費、AI換臉破解人臉識別……

（圖片源于網(wǎng)絡(luò)截圖）

看似整治的是不同問題，但如果把這些內(nèi)容放在一起，會發(fā)現(xiàn)它們背后指向的是同一個關(guān)鍵詞——算法。

很多人以為，這次行動是在整治AI。

其實，更準(zhǔn)確地說，它是在回應(yīng)一個新的教育現(xiàn)實：未成年人保護(hù)，正在從"防內(nèi)容"走向"防算法"。

這是一個值得每位家長認(rèn)真理解的變化。

01

過去二十年，未成年人上網(wǎng)的風(fēng)險一直在變化。

最早，家長擔(dān)心的是陌生網(wǎng)友。

后來，擔(dān)心的是網(wǎng)絡(luò)游戲。

再后來，是短視頻沉迷。

今天，當(dāng)AI開始大規(guī)模生成內(nèi)容，當(dāng)推薦算法越來越精準(zhǔn)，風(fēng)險已經(jīng)發(fā)生了新的變化。

很多內(nèi)容，并不是孩子主動尋找，而是平臺主動推送。

孩子停留三秒，算法記住了；多看幾次，算法繼續(xù)推薦。

一次點贊、一條評論、一次停留，都會變成下一輪推薦的依據(jù)。

于是，一個喜歡動畫片的孩子，很可能很快刷到AI惡搞動畫；一個喜歡搞笑視頻的孩子，可能不斷接觸獵奇、審丑甚至低俗內(nèi)容；一個關(guān)注同齡博主的孩子，也可能被持續(xù)推送各種被包裝成"神童""天才少年""早熟少女"的人設(shè)。

從表面看，是孩子在刷視頻；實際上，是視頻在"挑選"孩子。

這正是今天網(wǎng)絡(luò)環(huán)境與過去最大的不同。

02

為什么這次專項行動，專門點名"AI毒動畫"？

因為AI改變的，不只是內(nèi)容質(zhì)量，更是內(nèi)容生產(chǎn)方式。

過去，制作一段動畫，需要編劇、配音、美術(shù)、剪輯，一個團隊可能需要幾天甚至幾周。

今天，借助生成式AI，一些低成本賬號可以在很短時間內(nèi)批量生產(chǎn)內(nèi)容。

真正需要警惕的，不是AI本身，而是低質(zhì)量、獵奇甚至有害內(nèi)容，第一次擁有了工業(yè)化生產(chǎn)能力。

如果說過去的問題，是偶爾出現(xiàn)一條違規(guī)視頻；那么今天的問題，更像是一條自動運轉(zhuǎn)的流水線：生成、發(fā)布、測試、根據(jù)數(shù)據(jù)調(diào)整、再生成。

（圖片由AI生成）

算法不斷篩選最容易獲得點擊的內(nèi)容，而AI不斷降低內(nèi)容生產(chǎn)成本，兩者結(jié)合，形成一種新的傳播機制。

這也是為什么，這次專項行動把AI惡搞經(jīng)典動畫放在重點整治對象之中。

因為它影響的不只是版權(quán)，更是未成年人的認(rèn)知環(huán)境。

03

專項行動還有一個細(xì)節(jié)，同樣值得關(guān)注。

它專門提出整治炒作"神童轉(zhuǎn)世""早熟小美女"等兒童人設(shè)。

很多人第一反應(yīng)是："這些賬號確實該管。"

但如果再往前想一步，就會發(fā)現(xiàn)，它治理的其實不是幾個賬號，而是一種商業(yè)模式。

過去，兒童更多是教育對象。

今天，在流量平臺上，兒童越來越成為內(nèi)容資源。

一個會背古詩的孩子，可以成為短視頻主角；

一個會彈鋼琴的孩子，可以成為直播流量；

一個長相可愛的孩子，可以成為品牌合作對象。

當(dāng)然，其中有很多真實記錄成長的家庭。

但也不能否認(rèn)，一些機構(gòu)為了流量，會刻意制造爭議、強化標(biāo)簽、設(shè)計劇情，把孩子包裝成"爆款人設(shè)"。

當(dāng)童年變成流量，當(dāng)成長變成生意，未成年人保護(hù)就不再只是家庭教育問題，而成為平臺治理和社會治理共同面對的課題。

04

更值得注意的是，這次專項行動把治理范圍，從內(nèi)容延伸到了互動和營銷。

例如，以"找閨蜜""暑期陪玩"誘導(dǎo)聊天，以"內(nèi)衣體驗官"等名義誘導(dǎo)拍攝，以限量、絕版等方式誘導(dǎo)未成年人消費……

這些看似彼此獨立。實際上都建立在同一個基礎(chǔ)之上：算法能夠精準(zhǔn)識別目標(biāo)人群。

過去，廣告是"廣撒網(wǎng)"。

今天，平臺越來越擅長判斷：什么年齡、什么興趣、什么時間，更容易點擊、更容易停留、更容易消費。

從某種意義上說，真正改變傳播邏輯的，不是AI，而是算法。

AI負(fù)責(zé)生產(chǎn)內(nèi)容，算法負(fù)責(zé)分發(fā)內(nèi)容。兩者疊加，才構(gòu)成了今天數(shù)字世界新的運行方式。

05

為什么中央這次選擇從"算法"切入？

因為教育面對的問題，也在發(fā)生變化。

過去，很多家庭談未成年人保護(hù)，更多想到的是"不讓孩子接觸什么"。

而未來，一個更重要的問題是：孩子是否具備理解數(shù)字世界的能力。

為什么平臺總能猜到我的興趣？為什么熱門內(nèi)容越來越極端？為什么刷十分鐘，總會變成半小時？為什么越有爭議的視頻，越容易被推薦？

這些問題，過去屬于互聯(lián)網(wǎng)行業(yè)。

今天，它們已經(jīng)成為教育問題。

閱讀能力、表達(dá)能力、邏輯能力仍然重要。

但在AI時代，算法素養(yǎng)、信息判斷能力、數(shù)字安全意識，也正在成為新的基礎(chǔ)能力。

這不是讓孩子遠(yuǎn)離互聯(lián)網(wǎng)，而是幫助他們理解互聯(lián)網(wǎng)。

06

很多人把這次專項行動理解為一次網(wǎng)絡(luò)治理，我更愿意把它看作一次教育信號。

它提醒我們：未成年人保護(hù)，已經(jīng)不只是限制使用時間、過濾幾個網(wǎng)站那么簡單。

當(dāng)AI越來越會生成內(nèi)容，算法越來越會理解用戶，一個孩子真正需要的保護(hù)，也不只是家長替他做選擇。

更重要的是，他能不能識別信息、理解推薦、保持判斷。

教育，從來都不僅僅發(fā)生在課堂。

今天，它也發(fā)生在每一次滑動屏幕之間。

或許，這才是中央這次專項行動真正想回答的問題：當(dāng)算法開始影響一代人的成長，我們應(yīng)該怎樣重新理解未成年人保護(hù)。

#AI毒動畫

#未成年保護(hù)

#算法

互動話題：這個暑假，你有沒有發(fā)現(xiàn)孩子刷短視頻的內(nèi)容和以前不一樣了？歡迎在評論區(qū)聊聊。

??我是Ka媽，「學(xué)習(xí)不費媽」主理人。

持續(xù)關(guān)注教育政策、升學(xué)趨勢和家庭教育，希望用真實的信息、理性的分析，陪更多家庭看懂教育變化。