公安部：上半年共偵辦利用AI工具生成網(wǎng)絡(luò)謠言案件170余起

據(jù)央視新聞消息，今天（24日）上午，國(guó)務(wù)院新聞辦公室舉行“開局起步‘十五五’”系列主題新聞發(fā)布會(huì)，公安部相關(guān)負(fù)責(zé)人介紹強(qiáng)治理護(hù)民安促發(fā)展，全力服務(wù)保障“十五五”開局起步有關(guān)情況，并回答記者提問。

近年來(lái)，不法分子利用人工智能等新技術(shù)實(shí)施的違法犯罪活動(dòng)時(shí)有發(fā)生，包括實(shí)施電信網(wǎng)絡(luò)詐騙，侵犯?jìng)€(gè)人隱私，破壞社會(huì)信任基石，甚至威脅國(guó)家安全。對(duì)此，公安機(jī)關(guān)高度重視，采取多種措施打擊整治。

第一：依法嚴(yán)厲打擊，震懾違法犯罪。當(dāng)前，利用人工智能實(shí)施的新型犯罪主要包括：利用人工智能技術(shù)偽造身份，侵入政企信息系統(tǒng)，對(duì)他人信息和財(cái)產(chǎn)實(shí)施盜竊；或者偽裝成熟人、權(quán)威人士，騙取受害者的信任后實(shí)施詐騙；以及利用人工智能工具，生成網(wǎng)絡(luò)謠言，擾亂社會(huì)公共秩序。公安機(jī)關(guān)全力打擊上述違法犯罪，同時(shí)嚴(yán)厲打擊提供技術(shù)支撐的犯罪團(tuán)伙，努力從根源上鏟除犯罪土壤。今年上半年，共偵辦利用人工智能工具生成網(wǎng)絡(luò)謠言案件170余起，依法查處190余人。

第二：開展智能預(yù)警，提高防范能力。依托大數(shù)據(jù)分析，搭建風(fēng)險(xiǎn)研判模型，對(duì)高頻陌生視頻通話、靜默錄音來(lái)電、短時(shí)間多次調(diào)取人臉?biāo)夭摹⒕惩獍l(fā)起的視頻請(qǐng)求等新型詐騙手法，進(jìn)行綜合研判分析，形成精準(zhǔn)預(yù)警指令，推送各地公安機(jī)關(guān)開展預(yù)警勸阻工作。同時(shí)，在國(guó)家反詐中心App上布設(shè)人工智能內(nèi)容鑒定功能，大家可以上傳可疑視頻、語(yǔ)音、圖片，一鍵檢測(cè)是否存在人工智能生成痕跡，鑒別偽造信息。

第三：多部門協(xié)同共治，加強(qiáng)行業(yè)監(jiān)管。聯(lián)合網(wǎng)信辦、工信部、國(guó)家廣電總局發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，規(guī)范內(nèi)容標(biāo)識(shí)，向公眾提示人工智能合成內(nèi)容。同時(shí)，加強(qiáng)監(jiān)督檢查，針對(duì)人工智能大模型可能存在的安全風(fēng)險(xiǎn)開展重點(diǎn)監(jiān)測(cè)，并通報(bào)運(yùn)營(yíng)主體，及時(shí)消除隱患。今年上半年，共開展人工智能應(yīng)用服務(wù)監(jiān)督檢查600余次，對(duì)相關(guān)服務(wù)提供者進(jìn)行警告、責(zé)令整改、關(guān)停等行政執(zhí)法30余次。

第四：強(qiáng)化建章立制，完善法律體系。積極推進(jìn)《網(wǎng)絡(luò)犯罪防治法》等法律法規(guī)立法進(jìn)程，完善人工智能風(fēng)險(xiǎn)治理法律規(guī)范體系。研究構(gòu)建人工智能安全審查制度，防范此類服務(wù)被濫用于實(shí)施違法犯罪。研究制定人工智能代碼生成、深度合成圖像等領(lǐng)域的安全標(biāo)準(zhǔn)，不斷推進(jìn)和完善人工智能的安全標(biāo)準(zhǔn)體系建設(shè)。

（總臺(tái)央視記者 王莉）

編輯 辛婧

來(lái)源：央視新聞