人工智能支付風(fēng)險(xiǎn)的識(shí)別與治理

文/中國(guó)農(nóng)業(yè)發(fā)展銀行總行風(fēng)險(xiǎn)管理部處長(zhǎng)畢超

人工智能正在重塑支付服務(wù)的入口、流程和風(fēng)險(xiǎn)結(jié)構(gòu)。過(guò)去支付風(fēng)險(xiǎn)主要圍繞賬戶盜用、商戶欺詐、資金清算和信息泄露展開；進(jìn)入大模型和智能體時(shí)代后，AI 可能參與商品發(fā)現(xiàn)、交易撮合、身份核驗(yàn)、風(fēng)控判斷、支付授權(quán)乃至售后爭(zhēng)議處理，支付風(fēng)險(xiǎn)也隨之從“資金是否安全”擴(kuò)展到“意圖是否被正確理解、授權(quán)是否清晰、推薦是否公正、模型是否可靠、通道是否中立”。我國(guó)人工智能治理、金融機(jī)構(gòu) AI 應(yīng)用、算法推薦、生成式人工智能、非銀行支付機(jī)構(gòu)監(jiān)管和個(gè)人信息保護(hù)等制度，已為 AI 支付治理提供基礎(chǔ)。面向智能體支付發(fā)展，本文提出構(gòu)建以明確授權(quán)、可解釋推薦、可信身份、數(shù)據(jù)最小化、模型審計(jì)、通道中立和責(zé)任可追溯為核心的治理框架。

AI正在把支付從“交易環(huán)節(jié)”推向“智能決策環(huán)節(jié)”

過(guò)去談支付安全，重點(diǎn)通常是“錢有沒有被盜”“密碼有沒有泄露”“交易有沒有被篡改”“商戶有沒有違規(guī)”。這些問題仍然重要，但人工智能進(jìn)入支付場(chǎng)景后，風(fēng)險(xiǎn)結(jié)構(gòu)正在發(fā)生變化。

在傳統(tǒng)移動(dòng)支付中，用戶通常先搜索商品或服務(wù)，再比較價(jià)格、評(píng)價(jià)和商戶，最后點(diǎn)擊支付按鈕。支付機(jī)構(gòu)主要負(fù)責(zé)賬戶識(shí)別、身份核驗(yàn)、交易風(fēng)控、清算結(jié)算和爭(zhēng)議處理。即便平臺(tái)排序存在商業(yè)化因素，消費(fèi)者通常仍能看到搜索結(jié)果、廣告標(biāo)識(shí)、商戶頁(yè)面和價(jià)格信息。

但在 AI 支付或智能體支付場(chǎng)景中，用戶可能只說(shuō)一句：“幫我買一箱適合老人喝的牛奶”“幫我訂一間明晚附近性價(jià)比高的酒店”“幫我繳納本月家庭賬單”。AI 不只是回答問題，而是可能理解需求、篩選商品、調(diào)用平臺(tái)接口、生成訂單、發(fā)起支付，甚至在用戶預(yù)授權(quán)范圍內(nèi)完成交易。此時(shí)，支付不再只是最后一公里的資金劃轉(zhuǎn)，而是被嵌入 AI 的任務(wù)規(guī)劃和交易決策之中。

這帶來(lái)更深層的問題：如果 AI 誤解用戶意圖，誰(shuí)負(fù)責(zé)？如果 AI 推薦了平臺(tái)關(guān)聯(lián)商品，卻沒有提示利益關(guān)系，是否影響消費(fèi)者知情權(quán)和選擇權(quán)？如果 AI 換臉、擬聲、偽造身份誘導(dǎo)用戶轉(zhuǎn)賬，支付機(jī)構(gòu)如何識(shí)別？如果模型被提示詞攻擊或惡意頁(yè)面誘導(dǎo)，產(chǎn)生錯(cuò)誤支付指令，風(fēng)險(xiǎn)由誰(shuí)承擔(dān)？如果少數(shù)大型 AI 入口掌握海量交易導(dǎo)流能力，是否會(huì)形成新的數(shù)字通道控制力？

中央層面已經(jīng)明確要求推動(dòng)人工智能健康有序發(fā)展，突出應(yīng)用導(dǎo)向，同時(shí)加強(qiáng)人工智能安全治理。金融監(jiān)管部門也已針對(duì)銀行保險(xiǎn)機(jī)構(gòu)人工智能開發(fā)應(yīng)用提出全生命周期管理要求。與此同時(shí)，算法推薦、生成式人工智能、非銀行支付機(jī)構(gòu)監(jiān)管、個(gè)人信息保護(hù)、數(shù)據(jù)安全等規(guī)則，共同構(gòu)成 AI 支付治理的制度背景。對(duì)金融機(jī)構(gòu)和支付平臺(tái)而言，人工智能支付不是簡(jiǎn)單的技術(shù)升級(jí)，而是支付秩序、消費(fèi)者保護(hù)和金融安全治理的新課題。

AI支付不只是“AI幫你付款

從國(guó)內(nèi)公開報(bào)道和監(jiān)管關(guān)注看，當(dāng)前所謂 AI 支付問題并不都表現(xiàn)為成熟的“智能體自動(dòng)支付”。更常見的是若干相鄰風(fēng)險(xiǎn)正在向支付環(huán)節(jié)匯聚，比如刷臉支付和人臉識(shí)別風(fēng)險(xiǎn)、AI 換臉和擬聲詐騙、算法推薦和平臺(tái)導(dǎo)流偏置、自動(dòng)扣費(fèi)與授權(quán)不清、數(shù)據(jù)過(guò)度采集、模型誤判與責(zé)任不明等。這些問題共同構(gòu)成 AI 支付治理的現(xiàn)實(shí)基礎(chǔ)。

（一）人臉識(shí)別與刷臉支付風(fēng)險(xiǎn)

刷臉支付曾被視為提升支付便利性的重要?jiǎng)?chuàng)新。它減少了用戶輸入密碼、掃描二維碼或攜帶實(shí)體卡的步驟，在商超、餐飲、自助終端等場(chǎng)景中具有一定應(yīng)用價(jià)值。但人臉識(shí)別屬于高度敏感的生物識(shí)別技術(shù)，一旦被盜用、復(fù)制或?yàn)E用，風(fēng)險(xiǎn)不同于普通密碼。密碼泄露可以修改，人臉信息一旦泄露，幾乎無(wú)法“重新?lián)Q一張臉”。

公開資料顯示，圍繞刷臉支付和人臉識(shí)別支付的風(fēng)險(xiǎn)主要包括三類。第一，用戶對(duì)人臉信息采集目的、保存期限、使用范圍了解不足。第二，部分場(chǎng)景可能存在默認(rèn)刷臉、替代方式不足或授權(quán)不充分問題。第三，AI 換臉、照片視頻偽造、深度合成等技術(shù)提高了身份冒用的可能性，對(duì)活體檢測(cè)、行為風(fēng)控和異常交易識(shí)別提出更高要求。

這說(shuō)明，AI 支付安全不能只看“識(shí)別準(zhǔn)確率”。即使識(shí)別技術(shù)本身較先進(jìn)，只要授權(quán)場(chǎng)景不清、活體檢測(cè)不足、異常行為識(shí)別不到位、交易確認(rèn)機(jī)制薄弱，仍可能產(chǎn)生風(fēng)險(xiǎn)。人臉識(shí)別不是萬(wàn)能鑰匙，更不能成為替代用戶真實(shí)意愿的單一通行證。

（二）AI換臉、擬聲和深度偽造詐騙

近年來(lái)，AI 換臉、擬聲詐騙成為社會(huì)關(guān)注的突出問題。不法分子可以通過(guò)公開視頻、社交媒體素材、語(yǔ)音片段等生成較為逼真的視頻或語(yǔ)音，冒充親友、領(lǐng)導(dǎo)、客服或金融機(jī)構(gòu)人員，誘導(dǎo)受害人轉(zhuǎn)賬、借款或提供驗(yàn)證碼。多地公安機(jī)關(guān)和主流媒體已發(fā)布相關(guān)風(fēng)險(xiǎn)提示。

這類風(fēng)險(xiǎn)與支付高度相關(guān)。支付系統(tǒng)過(guò)去主要識(shí)別賬戶、設(shè)備、密碼、驗(yàn)證碼和交易行為；但深度偽造攻擊利用的是人的信任機(jī)制。受害人看到“熟人”的臉、聽到“熟人”的聲音，就可能放松警惕，自主發(fā)起轉(zhuǎn)賬。從形式上看，這筆支付可能是本人操作；從實(shí)質(zhì)上看，卻可能是被 AI 偽造信息誘導(dǎo)。

因此，AI 支付治理不能只強(qiáng)調(diào)技術(shù)認(rèn)證，也要重視交易語(yǔ)境和異常行為。例如，涉及大額轉(zhuǎn)賬、陌生賬戶、臨時(shí)借款、緊急付款、異地登錄等場(chǎng)景時(shí)，支付平臺(tái)應(yīng)加強(qiáng)風(fēng)險(xiǎn)提示和二次核驗(yàn)。對(duì)“視頻通話確認(rèn)身份”等傳統(tǒng)經(jīng)驗(yàn)，也要進(jìn)行公眾教育：在 AI 換臉時(shí)代，視頻和聲音不再天然等于真實(shí)身份。

（三）算法推薦偏置與平臺(tái)自我優(yōu)待

AI 支付還有一類更隱蔽的風(fēng)險(xiǎn)，即 AI 入口的排序和推薦可能影響消費(fèi)者選擇。假設(shè)用戶在某大型平臺(tái)的 AI 應(yīng)用中說(shuō)：“幫我買一箱性價(jià)比高的牛奶。”如果 AI 優(yōu)先推薦平臺(tái)自營(yíng)商品、關(guān)聯(lián)公司商品、廣告出價(jià)更高商品或傭金更高商品，卻以“最適合你”的客觀語(yǔ)氣呈現(xiàn)，消費(fèi)者可能誤以為這是中立建議。

這不同于普通廣告。普通廣告通常有頁(yè)面標(biāo)識(shí)，消費(fèi)者也知道自己在瀏覽商業(yè)內(nèi)容。但 AI 以助手身份出現(xiàn)，語(yǔ)氣更像個(gè)人顧問。如果它把商業(yè)排序包裝成客觀推薦，就可能削弱消費(fèi)者知情權(quán)和比較選擇權(quán)。更重要的是，當(dāng) AI 具備下單和支付能力時(shí)，推薦偏置會(huì)直接轉(zhuǎn)化為交易轉(zhuǎn)化。誰(shuí)被 AI 看見，誰(shuí)就獲得交易機(jī)會(huì)；誰(shuí)被 AI 忽略，可能連展示機(jī)會(huì)都沒有。

這涉及 AI 支付入口的“通道中立”問題。AI 入口不完全等同于電信網(wǎng)絡(luò)或支付清算網(wǎng)絡(luò)等公共性基礎(chǔ)設(shè)施，但當(dāng)它連接用戶意圖、商品服務(wù)和支付賬戶，并對(duì)交易導(dǎo)流產(chǎn)生決定性影響時(shí)，就具有某種功能性通道屬性。監(jiān)管不必把所有 AI 應(yīng)用都納入公共事業(yè)監(jiān)管，但對(duì)于掌握大規(guī)模用戶、控制支付入口、兼營(yíng)自營(yíng)商品和廣告業(yè)務(wù)的平臺(tái)級(jí) AI 入口，應(yīng)提出更高的透明度、公平性和利益沖突披露要求。

（四）自動(dòng)扣費(fèi)、委托支付和授權(quán)不清

在許多支付糾紛中，用戶并不是完全沒有授權(quán)，而是不清楚授權(quán)的范圍、期限、金額和取消方式。比如會(huì)員自動(dòng)續(xù)費(fèi)、默認(rèn)勾選、免密支付、小額免密、代扣協(xié)議、聚合支付跳轉(zhuǎn)等場(chǎng)景，常常涉及“用戶曾經(jīng)同意過(guò)，但并未充分理解后續(xù)影響”的問題。

AI 支付會(huì)放大這一問題。智能體天然適合連續(xù)執(zhí)行任務(wù)，例如自動(dòng)比價(jià)、自動(dòng)訂票、自動(dòng)續(xù)費(fèi)、自動(dòng)繳費(fèi)、自動(dòng)采購(gòu)。若授權(quán)設(shè)計(jì)不清，用戶可能在一次對(duì)話中授予過(guò)寬權(quán)限，使 AI 在后續(xù)場(chǎng)景中持續(xù)觸發(fā)支付。傳統(tǒng)支付中的“單筆確認(rèn)”逐漸變成“規(guī)則化委托”，但規(guī)則如果不可見、不可控、不可撤銷，就會(huì)損害用戶權(quán)益。

因此，AI 支付授權(quán)必須從“勾選同意”升級(jí)為“可理解、可分級(jí)、可撤回、可審計(jì)”的授權(quán)體系。用戶不僅要知道 AI 可以做什么，也要知道 AI 不能做什么、何時(shí)必須再次確認(rèn)、如何暫停、如何查詢歷史決策依據(jù)。

（五）數(shù)據(jù)安全與個(gè)人信息保護(hù)風(fēng)險(xiǎn)

AI 支付需要大量上下文。為了替用戶選擇商品、判斷價(jià)格、完成支付、生成報(bào)銷憑證，AI 可能接觸身份信息、銀行卡信息、消費(fèi)偏好、位置軌跡、聯(lián)系人、發(fā)票抬頭、單位信息、健康信息甚至家庭關(guān)系。這些信息一旦被集中收集、跨場(chǎng)景使用或用于模型訓(xùn)練，風(fēng)險(xiǎn)遠(yuǎn)高于普通支付數(shù)據(jù)。

尤其是在金融、醫(yī)療、教育、養(yǎng)老等敏感場(chǎng)景，AI 支付服務(wù)很可能通過(guò)“便利性”獲得大量個(gè)人信息。如果平臺(tái)沒有堅(jiān)持最小必要原則，沒有明確區(qū)分交易所需數(shù)據(jù)、推薦所需數(shù)據(jù)和模型訓(xùn)練數(shù)據(jù)，就可能形成隱私過(guò)度采集、畫像濫用和數(shù)據(jù)安全隱患。

（六）模型風(fēng)險(xiǎn)、外部依賴和系統(tǒng)性風(fēng)險(xiǎn)

AI 支付依賴模型、算力、云服務(wù)、數(shù)據(jù)接口和第三方插件。若大量金融機(jī)構(gòu)和支付平臺(tái)使用少數(shù)基礎(chǔ)模型、少數(shù)云服務(wù)或少數(shù)智能體平臺(tái)，可能產(chǎn)生集中度和外部依賴風(fēng)險(xiǎn)。一旦模型出現(xiàn)系統(tǒng)性錯(cuò)誤、服務(wù)中斷、被攻擊或規(guī)則更新異常，影響可能迅速擴(kuò)散。

此外，AI 模型具有概率性，可能出現(xiàn)幻覺、誤判、上下文遺忘、工具調(diào)用錯(cuò)誤和提示詞攻擊。對(duì)內(nèi)容生成而言，這些錯(cuò)誤可能只是回答不準(zhǔn)確；對(duì)支付而言，則可能直接造成資金損失。因此，支付場(chǎng)景不能把模型輸出直接等同于支付指令，更不能讓模型在缺乏邊界約束的情況下直接觸發(fā)資金劃轉(zhuǎn)。

概括來(lái)看，AI 支付相關(guān)風(fēng)險(xiǎn)大體可以歸為三類：一是以刷臉支付、人臉識(shí)別為代表的身份核驗(yàn)風(fēng)險(xiǎn)；二是以 AI 換臉、擬聲詐騙為代表的深度偽造風(fēng)險(xiǎn)；三是以算法推薦、自動(dòng)扣費(fèi)、默認(rèn)授權(quán)為代表的消費(fèi)者權(quán)益風(fēng)險(xiǎn)。雖然這些案例不一定都發(fā)生在完整的“智能體自動(dòng)支付”場(chǎng)景中，但它們共同提示：當(dāng) AI 與支付結(jié)合，風(fēng)險(xiǎn)往往不是單點(diǎn)技術(shù)故障，而是技術(shù)、場(chǎng)景、授權(quán)、平臺(tái)規(guī)則和用戶認(rèn)知共同作用的結(jié)果。

AI支付風(fēng)險(xiǎn)治理已經(jīng)具備政策制度基礎(chǔ)

近年來(lái)，我國(guó)人工智能治理和金融科技監(jiān)管不斷完善，為 AI 支付風(fēng)險(xiǎn)治理提供了較為清晰的制度方向和政策框架。

一是中央層面對(duì)人工智能治理提出更高要求。中央政治局圍繞人工智能發(fā)展和監(jiān)管開展集體學(xué)習(xí)，強(qiáng)調(diào)推動(dòng)人工智能健康有序發(fā)展，堅(jiān)持自立自強(qiáng)、突出應(yīng)用導(dǎo)向，同時(shí)加強(qiáng)人工智能發(fā)展和安全治理。這為金融領(lǐng)域 AI 應(yīng)用劃定了基本方向：既要鼓勵(lì)創(chuàng)新應(yīng)用，也要守住安全底線、倫理底線和風(fēng)險(xiǎn)底線。

二是金融監(jiān)管部門已對(duì)銀行保險(xiǎn)機(jī)構(gòu)人工智能應(yīng)用提出安全開發(fā)要求。相關(guān)指導(dǎo)意見強(qiáng)調(diào)統(tǒng)籌發(fā)展和安全，加強(qiáng)人工智能全生命周期管理，覆蓋治理架構(gòu)、數(shù)據(jù)安全、模型管理、系統(tǒng)安全、外包管理、消費(fèi)者權(quán)益保護(hù)、風(fēng)險(xiǎn)監(jiān)測(cè)和應(yīng)急處置等方面。對(duì) AI 支付而言，這意味著金融機(jī)構(gòu)不能只把 AI 看作提升效率的工具，而要把模型、數(shù)據(jù)、場(chǎng)景、接口、外包、審計(jì)和責(zé)任納入統(tǒng)一治理框架。

三是算法推薦管理規(guī)則為 AI 入口治理提供制度支撐。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》強(qiáng)調(diào)算法推薦服務(wù)應(yīng)保障用戶知情權(quán)、選擇權(quán)，不得利用算法實(shí)施不合理差別待遇等行為。雖然該規(guī)定并非專門針對(duì)支付，但對(duì) AI 支付入口的推薦排序、廣告標(biāo)識(shí)、用戶選擇和算法透明具有重要參照意義。

四是生成式人工智能服務(wù)管理規(guī)則為大模型應(yīng)用提供邊界。《生成式人工智能服務(wù)管理暫行辦法》對(duì)生成式 AI 的數(shù)據(jù)來(lái)源、內(nèi)容安全、個(gè)人信息保護(hù)、服務(wù)規(guī)范和安全評(píng)估等提出要求。AI 支付若依賴大模型提供意圖理解、商品推薦、交易解釋和客服處理，就應(yīng)當(dāng)遵守這些基礎(chǔ)要求，避免模型輸出誤導(dǎo)用戶或侵害個(gè)人信息權(quán)益。

五是非銀行支付機(jī)構(gòu)監(jiān)管制度強(qiáng)化支付業(yè)務(wù)底線。《非銀行支付機(jī)構(gòu)監(jiān)督管理?xiàng)l例》明確非銀行支付機(jī)構(gòu)應(yīng)依法經(jīng)營(yíng)、保護(hù)用戶合法權(quán)益、保障支付業(yè)務(wù)安全。AI 支付無(wú)論前端交互多么智能，底層仍屬于支付業(yè)務(wù)或支付相關(guān)服務(wù)，必須遵守實(shí)名制、備付金、反洗錢、消費(fèi)者保護(hù)、交易安全和風(fēng)險(xiǎn)處置等基本要求。

六是個(gè)人信息保護(hù)、數(shù)據(jù)安全和網(wǎng)絡(luò)安全規(guī)則構(gòu)成底層約束。AI 支付涉及身份信息、生物識(shí)別信息、交易數(shù)據(jù)、消費(fèi)畫像和行為偏好，必須堅(jiān)持合法、正當(dāng)、必要和誠(chéng)信原則，落實(shí)最小必要、目的限定、單獨(dú)同意、敏感個(gè)人信息保護(hù)和數(shù)據(jù)安全管理等要求。

AI支付風(fēng)險(xiǎn)識(shí)別框架和治理路徑

識(shí)別風(fēng)險(xiǎn)是風(fēng)險(xiǎn)治理的前提。面向智能體支付，針對(duì)前述的典型風(fēng)險(xiǎn)領(lǐng)域，建議從六個(gè)維度加快建立風(fēng)險(xiǎn)識(shí)別框架，形成覆蓋AI 支付全鏈條的風(fēng)險(xiǎn)“雷達(dá)”。

第一，識(shí)別主體風(fēng)險(xiǎn)。要明確交易鏈條中的人、AI 智能體、商戶、平臺(tái)、銀行、支付機(jī)構(gòu)、模型服務(wù)商和第三方插件分別是誰(shuí)。特別是 AI 智能體不能是匿名黑箱，應(yīng)有可識(shí)別身份、權(quán)限范圍和行為日志。

第二，識(shí)別意圖風(fēng)險(xiǎn)。AI 是否準(zhǔn)確理解用戶目標(biāo)？是否把模糊需求轉(zhuǎn)化為過(guò)度明確的支付指令？是否遺漏用戶限制條件？是否把平臺(tái)商業(yè)目標(biāo)混入用戶真實(shí)需求？意圖風(fēng)險(xiǎn)是 AI 支付區(qū)別于傳統(tǒng)支付的重要風(fēng)險(xiǎn)。

第三，識(shí)別授權(quán)風(fēng)險(xiǎn)。用戶授權(quán)是否明確、分級(jí)、限額、限時(shí)、可撤回？是否存在默認(rèn)勾選、捆綁授權(quán)、長(zhǎng)期授權(quán)、模糊授權(quán)？是否在高風(fēng)險(xiǎn)交易中觸發(fā)二次確認(rèn)？授權(quán)風(fēng)險(xiǎn)決定 AI 能否合法、合理地代表用戶行動(dòng)。

第四，識(shí)別模型風(fēng)險(xiǎn)。模型是否經(jīng)過(guò)支付場(chǎng)景評(píng)估？是否可能產(chǎn)生幻覺、誤判、歧視性推薦或錯(cuò)誤工具調(diào)用？是否容易受到提示詞注入、惡意網(wǎng)頁(yè)、偽造接口和對(duì)抗樣本攻擊？模型風(fēng)險(xiǎn)必須通過(guò)測(cè)試、監(jiān)控、審計(jì)和人工兜底機(jī)制控制。

第五，識(shí)別數(shù)據(jù)風(fēng)險(xiǎn)。AI 支付是否過(guò)度采集個(gè)人信息？是否將交易數(shù)據(jù)用于無(wú)關(guān)畫像或模型訓(xùn)練？是否對(duì)敏感個(gè)人信息采取單獨(dú)同意、加密存儲(chǔ)、訪問控制和最小化處理？數(shù)據(jù)風(fēng)險(xiǎn)既關(guān)系用戶隱私，也關(guān)系金融安全。

第六，識(shí)別平臺(tái)與市場(chǎng)風(fēng)險(xiǎn)。AI 入口是否自我優(yōu)待？是否優(yōu)先導(dǎo)流關(guān)聯(lián)商戶？是否壓低競(jìng)爭(zhēng)者曝光？是否把廣告結(jié)果偽裝成客觀推薦？是否形成新的平臺(tái)鎖定和市場(chǎng)壁壘？這一維度關(guān)系消費(fèi)者選擇權(quán)和公平競(jìng)爭(zhēng)。

在識(shí)別前述六個(gè)維度風(fēng)險(xiǎn)的基礎(chǔ)上，應(yīng)進(jìn)一步構(gòu)建“可控、可信、可審計(jì)”的 AI 支付體系，為相關(guān)風(fēng)險(xiǎn)前瞻性應(yīng)對(duì)提供清晰的治理路徑。

第一，建立分級(jí)授權(quán)機(jī)制。AI 支付不應(yīng)只有“允許/拒絕”兩種狀態(tài)，而應(yīng)分為信息輔助、訂單輔助、受限代付、高級(jí)委托等層級(jí)。信息輔助階段，AI 只能提供建議；訂單輔助階段，AI 可生成訂單但必須用戶確認(rèn)；受限代付階段，AI 只能在白名單、限額、限時(shí)和低風(fēng)險(xiǎn)場(chǎng)景內(nèi)自動(dòng)支付；高級(jí)委托階段，應(yīng)配套更強(qiáng)風(fēng)控、實(shí)時(shí)監(jiān)控、審計(jì)日志和異常熔斷。

第二，堅(jiān)持關(guān)鍵支付節(jié)點(diǎn)強(qiáng)確認(rèn)。對(duì)大額交易、跨境交易、陌生收款方、非常用商戶、金融產(chǎn)品購(gòu)買、醫(yī)療教育等敏感場(chǎng)景，應(yīng)設(shè)置強(qiáng)確認(rèn)機(jī)制。確認(rèn)內(nèi)容應(yīng)包括交易對(duì)象、金額、費(fèi)用、授權(quán)依據(jù)、推薦理由、風(fēng)險(xiǎn)提示和撤銷方式，而不是簡(jiǎn)單彈出“是否同意”。

第三，建設(shè)智能體身份與行為日志。未來(lái) AI 智能體參與支付，應(yīng)像機(jī)構(gòu)、商戶和賬戶一樣具備可識(shí)別身份。系統(tǒng)應(yīng)記錄智能體發(fā)起請(qǐng)求的時(shí)間、授權(quán)來(lái)源、調(diào)用工具、推薦依據(jù)、用戶確認(rèn)、風(fēng)控結(jié)果和最終執(zhí)行情況。日志應(yīng)滿足爭(zhēng)議處理、監(jiān)管檢查和責(zé)任追溯需要。

第四，強(qiáng)化模型全生命周期治理。金融機(jī)構(gòu)和支付平臺(tái)應(yīng)對(duì) AI 支付模型開展上線前評(píng)估、場(chǎng)景適配測(cè)試、紅隊(duì)測(cè)試、偏差評(píng)估、持續(xù)監(jiān)控和定期復(fù)核。對(duì)外部模型和第三方插件，應(yīng)建立準(zhǔn)入、評(píng)估、合同約束、監(jiān)測(cè)和退出機(jī)制，避免把核心支付決策完全外包給不可控系統(tǒng)。

第五，落實(shí)數(shù)據(jù)最小化和敏感信息保護(hù)。AI 支付應(yīng)區(qū)分“完成交易所需的數(shù)據(jù)”“提升推薦效果的數(shù)據(jù)”和“用于模型訓(xùn)練的數(shù)據(jù)”。不同目的應(yīng)分別授權(quán)，不得以使用支付服務(wù)為由強(qiáng)制用戶同意無(wú)關(guān)數(shù)據(jù)處理。對(duì)人臉、聲紋、賬戶、位置、健康、家庭關(guān)系等敏感信息，應(yīng)采取更高保護(hù)標(biāo)準(zhǔn)。

第六，治理 AI 入口的通道中立問題。平臺(tái)級(jí) AI 支付入口可以有商業(yè)模式，但不能讓商業(yè)利益隱身。對(duì)于自營(yíng)商品、關(guān)聯(lián)商戶、廣告商品、傭金更高商品和商業(yè)合作結(jié)果，應(yīng)進(jìn)行清晰標(biāo)識(shí)。AI 推薦支付對(duì)象時(shí)，應(yīng)盡量提供多個(gè)可比較選項(xiàng)，并說(shuō)明價(jià)格、質(zhì)量、配送、售后、商戶信用和商業(yè)合作因素。對(duì)具有較強(qiáng)市場(chǎng)影響力的平臺(tái)，應(yīng)建立算法審計(jì)和非歧視導(dǎo)流規(guī)則，防止利用 AI 入口排擠競(jìng)爭(zhēng)者。

第七，完善消費(fèi)者保護(hù)和賠付機(jī)制。AI 支付糾紛中，普通用戶往往難以舉證模型如何決策、平臺(tái)如何排序、接口如何調(diào)用。因此，應(yīng)建立有利于消費(fèi)者的查詢、凍結(jié)、申訴、舉證和賠付機(jī)制。對(duì)因平臺(tái)模型缺陷、風(fēng)險(xiǎn)提示不足、授權(quán)設(shè)計(jì)不合理、深度偽造識(shí)別失敗造成的損失，應(yīng)明確平臺(tái)和金融機(jī)構(gòu)責(zé)任。

第八，推動(dòng)監(jiān)管沙盒和行業(yè)標(biāo)準(zhǔn)。AI 支付仍處于發(fā)展早期，宜先在低風(fēng)險(xiǎn)、小額、可撤銷、可監(jiān)控場(chǎng)景中試點(diǎn)，逐步形成行業(yè)標(biāo)準(zhǔn)。標(biāo)準(zhǔn)重點(diǎn)應(yīng)包括智能體身份標(biāo)識(shí)、授權(quán)表達(dá)、日志格式、風(fēng)險(xiǎn)提示、算法審計(jì)、數(shù)據(jù)安全、第三方接口、爭(zhēng)議處理和應(yīng)急處置。

對(duì)監(jiān)管、金融機(jī)構(gòu)和支付平臺(tái)的建議

對(duì)監(jiān)管部門而言，應(yīng)在現(xiàn)有支付監(jiān)管、算法治理、數(shù)據(jù)安全和消費(fèi)者保護(hù)規(guī)則基礎(chǔ)上，進(jìn)一步關(guān)注智能體支付的特殊性。監(jiān)管重點(diǎn)可從支付機(jī)構(gòu)合規(guī)，擴(kuò)展到 AI 入口治理、智能體身份、模型外包、算法推薦、深度偽造防范和跨機(jī)構(gòu)責(zé)任劃分。

對(duì)銀行而言，AI 支付不是單一支付產(chǎn)品，而是賬戶、身份、風(fēng)控、合規(guī)和客戶服務(wù)的綜合升級(jí)。銀行應(yīng)把 AI 支付納入數(shù)字金融和消費(fèi)者保護(hù)框架，重點(diǎn)建設(shè)可信賬戶體系、智能風(fēng)控體系和可解釋授權(quán)體系。對(duì)于企業(yè)客戶，還可以探索 AI 采購(gòu)支付、差旅報(bào)銷、供應(yīng)鏈結(jié)算等場(chǎng)景，但必須強(qiáng)化審批流、預(yù)算控制和審計(jì)留痕。

對(duì)支付機(jī)構(gòu)而言，應(yīng)避免把 AI 支付簡(jiǎn)單包裝為“更快支付”或“無(wú)感支付”。真正的競(jìng)爭(zhēng)力在于可信授權(quán)、交易安全、商戶治理、爭(zhēng)議處理和跨場(chǎng)景風(fēng)控。支付機(jī)構(gòu)應(yīng)主動(dòng)與模型服務(wù)商、電商平臺(tái)、終端廠商建立風(fēng)險(xiǎn)聯(lián)防機(jī)制，形成從意圖識(shí)別到資金結(jié)算的全鏈條防控。

對(duì)大型平臺(tái)而言，應(yīng)高度重視 AI 入口的公平性。平臺(tái)既做 AI 助手，又做電商、廣告、支付和自營(yíng)商品時(shí)，必須處理好“裁判員”和“運(yùn)動(dòng)員”的關(guān)系。自營(yíng)、關(guān)聯(lián)、廣告和傭金因素應(yīng)充分披露，不能以算法黑箱掩蓋商業(yè)導(dǎo)流。

總之，AI 支付治理的核心是構(gòu)建信任秩序。人工智能支付不是簡(jiǎn)單地讓 AI 替人付款，而是讓 AI 介入“理解需求—形成選擇—組織交易—觸發(fā)支付—處理爭(zhēng)議”的全過(guò)程。它帶來(lái)的效率提升值得期待，但風(fēng)險(xiǎn)也不應(yīng)低估。未來(lái)，支付安全的含義將從“賬戶和資金安全”擴(kuò)展為“意圖真實(shí)、授權(quán)明確、推薦公正、模型可靠、數(shù)據(jù)合規(guī)、通道中立、責(zé)任可追”。誰(shuí)掌握 AI 支付入口，誰(shuí)就可能掌握消費(fèi)者意圖、商戶流量和支付轉(zhuǎn)化；因此，AI 支付治理必須同時(shí)關(guān)注金融安全、消費(fèi)者權(quán)益和公平競(jìng)爭(zhēng)。

在中央加強(qiáng)人工智能治理和金融監(jiān)管部門強(qiáng)化銀行保險(xiǎn)業(yè)人工智能安全開發(fā)應(yīng)用的背景下，金融機(jī)構(gòu)和支付平臺(tái)應(yīng)盡快從“功能上線”思維轉(zhuǎn)向“治理先行”思維。只有把 AI 的自主性納入明確授權(quán)、可解釋推薦、可信身份、可審計(jì)日志、非歧視導(dǎo)流和消費(fèi)者保護(hù)框架之中，人工智能支付才能真正成為數(shù)字金融高質(zhì)量發(fā)展的助力，而不是新的風(fēng)險(xiǎn)源。

來(lái)源丨經(jīng)作者授權(quán)轉(zhuǎn)發(fā)

編輯 | 丁開艷

審核丨秦婷

責(zé)編 | 蘭銀帆

Review of Past Articles -

01

02