多平臺(tái)叫停智能體虛擬陪伴服務(wù)人工智能擬人化互動(dòng)服務(wù)迎來監(jiān)管新規(guī)

本報(bào)記者 孫慶陽

　　國家網(wǎng)信辦等五部門聯(lián)合發(fā)布的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》7月15日正式施行，這是國內(nèi)首部專門針對(duì)人工智能（AI）擬人化互動(dòng)服務(wù)的監(jiān)管新規(guī)。

　　同一天，字節(jié)跳動(dòng)旗下的豆包、阿里旗下的千問用戶發(fā)現(xiàn)，自己手動(dòng)搭建、用于情感傾訴、角色扮演的虛擬陪伴角色無法正常使用。當(dāng)然，這并非平臺(tái)全部智能體服務(wù)關(guān)停。

　　據(jù)悉，豆包、千問幾乎在同一時(shí)間關(guān)停了C端用戶自定義智能體功能。此前，騰訊元寶已提前下線自建智能體入口。

　　對(duì)普通用戶而言，這意味著什么？

AI制圖

　　為什么下線

　　關(guān)于此次部分平臺(tái)功能下線的原因，工業(yè)和信息化部信息通信經(jīng)濟(jì)專家委員會(huì)委員盤和林認(rèn)為，這些平臺(tái)的自定義智能體，其功能使用率并不高。對(duì)于平臺(tái)來說，維護(hù)它需要成本，但用的人少，就像一塊食之無味、棄之可惜的“雞肋”，被優(yōu)化掉也在情理之中。同時(shí)，也有不少企業(yè)依靠原有生態(tài)支撐，沒有關(guān)停智能體，相關(guān)功能仍可正常使用。

　　清華大學(xué)公共管理學(xué)院長聘副教授、清華大學(xué)科技發(fā)展與治理研究中心主任助理陳天昊澄清一個(gè)概念：這次下線的產(chǎn)品，嚴(yán)格地說并不是真正意義上的智能體。

　　“目前業(yè)界所討論的智能體，通常是指具備一定自主行動(dòng)能力，能夠感知環(huán)境、拆解任務(wù)、調(diào)用工具，并通過行動(dòng)完成目標(biāo)的系統(tǒng)。”陳天昊解釋說，豆包、千問下線的這類角色功能，本質(zhì)上是讓用戶自定義人設(shè)、角色，然后進(jìn)行擬人化聊天互動(dòng)，更像是一種“AI情感陪伴服務(wù)”。

　　為什么這類服務(wù)會(huì)被叫停？陳天昊認(rèn)為，其核心是商業(yè)價(jià)值還沒實(shí)現(xiàn)，監(jiān)管要求又來了。

　　他算了筆賬：“一方面，長期陪伴意味著大量模型調(diào)用，每一次互動(dòng)都需要消耗算力，成本會(huì)隨著使用時(shí)長不斷增加；另一方面，如何將這種高成本服務(wù)轉(zhuǎn)化為穩(wěn)定收益，目前還沒有形成成熟的閉環(huán)。”

　　“隨著人工智能擬人化互動(dòng)服務(wù)相關(guān)監(jiān)管要求實(shí)施，企業(yè)需要承擔(dān)更多合規(guī)責(zé)任，包括防范情感依賴、保護(hù)用戶權(quán)益，特別是加強(qiáng)對(duì)未成年人等群體的保護(hù)。”陳天昊指出。

　　早在6月26日，上海市委網(wǎng)信辦通報(bào)了“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)成果，累計(jì)下架違規(guī)智能體1.4萬余個(gè)。其中，稀宇科技（MiniMax）下架“一鍵脫衣”、賭球博彩等違規(guī)智能體，騰訊元寶下架了自建智能體入口，網(wǎng)易“妙時(shí)”直接停運(yùn)。

　　對(duì)普通用戶有何影響

　　盤和林提醒：“用戶可能涉及數(shù)據(jù)遷移和項(xiàng)目遷移的問題，如果你的工作流依賴某個(gè)智能體，那么就需要將未完成的項(xiàng)目遷移到新智能體。”

　　陳天昊關(guān)注到了用戶的情感層面。他坦言：“對(duì)于已經(jīng)習(xí)慣使用這類服務(wù)、形成一定情感依賴的用戶來說，下線確實(shí)會(huì)帶來一定影響，尤其是部分用戶可能將其作為日常陪伴、情緒交流的重要渠道。”但從長遠(yuǎn)看，對(duì)此類AI產(chǎn)品進(jìn)行監(jiān)管也十分必要。他認(rèn)為，AI擬人化服務(wù)會(huì)影響人的情感認(rèn)知、行為選擇和心理健康。“如果缺少適當(dāng)規(guī)范管理，特別是在未成年人、老年人等群體中，可能產(chǎn)生更復(fù)雜的社會(huì)問題。”

　　他特別提出，新規(guī)已經(jīng)明確要求，提供擬人化互動(dòng)服務(wù)的平臺(tái)“不得將替代社會(huì)交往、控制用戶心理、誘導(dǎo)沉迷依賴等作為服務(wù)目標(biāo)”，并對(duì)面向未成年人和老年人的服務(wù)設(shè)置了專門的監(jiān)管要求。

　　值得注意的是，豆包給用戶留了3個(gè)月“緩沖期”，可以導(dǎo)出歷史對(duì)話，并把用戶引導(dǎo)至旗下另一款有完整審核體系的App“貓箱”。而千問則“一刀切”，7月15日后所有記錄完全無法訪問。

　　如何規(guī)范智能體發(fā)展

　　盤和林認(rèn)為不需要刻意規(guī)劃：“只需要等待智能體逐漸成長為完成體，市場(chǎng)會(huì)淘汰那些安全性差、使用復(fù)雜的智能體，最終，SKILL（技能）也會(huì)越來越簡單。也許就像現(xiàn)在的AI，你用大白話發(fā)布指令，它也能理解。”在他看來，技術(shù)會(huì)自然進(jìn)化，好用、安全的智能體會(huì)被市場(chǎng)留下來。

　　陳天昊強(qiáng)調(diào)：“未來智能體的發(fā)展，需回歸智能體本身的技術(shù)邏輯。真正的智能體并不只是‘會(huì)聊天’或者‘更像人’，關(guān)鍵在于它是否具備真實(shí)環(huán)境中的行動(dòng)力——能夠感知環(huán)境，根據(jù)目標(biāo)進(jìn)行決策，調(diào)用工具完成任務(wù)，并通過行動(dòng)改變環(huán)境或自身狀態(tài)。”

　　他明確指出3個(gè)需要持續(xù)突破的方向：

　　第一，基礎(chǔ)模型能力還得再“聰明”一點(diǎn)。“智能體進(jìn)入真實(shí)場(chǎng)景，往往需要完成復(fù)雜的長鏈任務(wù)，這要求模型具備更強(qiáng)的推理、規(guī)劃和持續(xù)執(zhí)行能力。”他舉例說，像Anthropic（安特羅匹克）的Mythos模型和智譜的GLM-5.2，已經(jīng)在網(wǎng)絡(luò)安全這類復(fù)雜任務(wù)中展現(xiàn)出更強(qiáng)的自主行動(dòng)能力。

　　第二，智能體要和硬件“軟硬結(jié)合”。專門定制適配的硬件能夠?yàn)橹悄荏w提供穩(wěn)定獲取真實(shí)世界的信息與便于操作的工具。未來的智能體不只是一個(gè)聊天窗口，而是會(huì)結(jié)合具體行業(yè)和用戶需求，圍繞硬件進(jìn)行深度定制，比如智能家居、工業(yè)機(jī)器人等。

　　第三，建立更加開放的生態(tài)環(huán)境。智能體要真正發(fā)揮價(jià)值，需要能夠進(jìn)入真實(shí)業(yè)務(wù)流程，獲得必要的數(shù)據(jù)、工具和應(yīng)用接口。就在7月13日，工業(yè)和信息化部、中央網(wǎng)信辦、國家發(fā)展改革委、國家數(shù)據(jù)局四部門聯(lián)合發(fā)布《關(guān)于推動(dòng)互聯(lián)網(wǎng)基礎(chǔ)資源高質(zhì)量發(fā)展的指導(dǎo)意見》，明確提出要“加強(qiáng)智能體互聯(lián)互通”，探索構(gòu)建具備統(tǒng)一通信協(xié)議和數(shù)據(jù)交互標(biāo)準(zhǔn)的智能體互聯(lián)網(wǎng)絡(luò)基礎(chǔ)設(shè)施，推動(dòng)智能體技術(shù)從單點(diǎn)應(yīng)用向網(wǎng)絡(luò)化協(xié)同發(fā)展。

　　關(guān)于智能體會(huì)不會(huì)影響現(xiàn)有商業(yè)模式？陳天昊指出，去年年底豆包手機(jī)和今年年初美國亞馬遜（Amazon）與Perplexity的訴訟，都說明這不僅是技術(shù)問題，更是產(chǎn)業(yè)生態(tài)和治理規(guī)則共同演進(jìn)的問題。

　　陳天昊認(rèn)為，“未來值得發(fā)展的方向，不是讓AI成為一個(gè)‘更像人的陪伴者’，而是讓AI成為一個(gè)能夠進(jìn)入真實(shí)環(huán)境、解決真實(shí)問題的行動(dòng)型智能系統(tǒng)。”