張文祥：人工智能時(shí)代自動(dòng)化行政的規(guī)制路徑研究

作者 簡 介 ： 張文祥，仰恩大學(xué)法學(xué)院。本文 系 福建省社會(huì)科學(xué)基金項(xiàng)目“自動(dòng)化行政的技術(shù)邏輯與法律規(guī)制研究”（項(xiàng)目批準(zhǔn)號：FJ2025C062）階段性成果；中國僑聯(lián)課題（課題編號：24AZQK202）階段性成果。 文 章來源：《 成都理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版） 》 2025年9月 29日網(wǎng)絡(luò)首發(fā)。注釋及參考文獻(xiàn)已略， 引用請以原 文為準(zhǔn)。

摘要

近年來人工智能發(fā)展迅猛，自動(dòng)化行政對行政活動(dòng)產(chǎn)生了極大沖擊。已有的國內(nèi)研究成果中，主要涉及法律風(fēng)險(xiǎn)、程序權(quán)利、治理范式、立法等內(nèi)容，較少運(yùn)用實(shí)證數(shù)據(jù)和跨學(xué)科分析方法。人工智能時(shí)代自動(dòng)化輔助行政、部分自動(dòng)化行政、完全自動(dòng)化行政三個(gè)發(fā)展階段存在不同的風(fēng)險(xiǎn)樣態(tài)，在提取司法裁判現(xiàn)狀和實(shí)踐案例后，其風(fēng)險(xiǎn)樣態(tài)可以歸納為權(quán)力黑箱、治理偏見、權(quán)力異化、權(quán)力惰性、私權(quán)侵害五個(gè)基本范疇。本文旨在針對自動(dòng)化行政的現(xiàn)實(shí)風(fēng)險(xiǎn)提出規(guī)制路徑，如明確可解釋性規(guī)則、凝聚治理共識、承認(rèn)社會(huì)權(quán)力、確立以人為本的理念、落實(shí)最小損害原則。探索人工智能運(yùn)用于各類行政行為的可能性和規(guī)制路徑，能豐富自動(dòng)化行政發(fā)展的研究范式，預(yù)防規(guī)制失靈。

一、問題提出及文獻(xiàn)綜述

人工智能催生了新技術(shù)、新產(chǎn)業(yè)、新模式，在立法和行業(yè)規(guī)則尚未完善的背景下，人工智能發(fā)展速度已經(jīng)逐漸超出社會(huì)規(guī)則所能規(guī)范的范疇，由此產(chǎn)生了“時(shí)空壓縮”現(xiàn)象。為此，黨的二十屆三中全會(huì)明確提出“完善生成式人工智能發(fā)展和管理機(jī)制”“加強(qiáng)網(wǎng)絡(luò)安全體制建設(shè)，建立人工智能安全監(jiān)管制度”。從自動(dòng)化輔助行政到完全自動(dòng)化行政的發(fā)展過程中，探索人工智能時(shí)代自動(dòng)化行政的規(guī)制路徑意義重大。

國內(nèi)學(xué)者早期研究聚焦于電子政務(wù)和數(shù)字化行政，隨著人工智能技術(shù)的發(fā)展，逐漸關(guān)注“自動(dòng)化行政”這一范疇。如部分學(xué)者從算法權(quán)力角度，提出算法治理和算法霸權(quán)問題。針對自動(dòng)化行政的法律風(fēng)險(xiǎn)，學(xué)者們分別提出侵犯公民權(quán)利、程序權(quán)利懸置、算法解釋困難、裁量負(fù)外部效應(yīng)等概念界定。針對自動(dòng)化行政的法律規(guī)制，學(xué)者們分別提出實(shí)施敏捷治理、引入解釋權(quán)、立法適度照顧公眾的感知風(fēng)險(xiǎn)、分級分類治理范式、運(yùn)用軟法規(guī)范等規(guī)制措施。可見，已有的國內(nèi)研究成果中，主要涉及法律風(fēng)險(xiǎn)、程序權(quán)利、治理范式、立法等內(nèi)容，極少結(jié)合自動(dòng)化行政的技術(shù)邏輯和實(shí)證經(jīng)驗(yàn)，規(guī)范政府使用人工智能技術(shù)。本文將從司法裁判現(xiàn)狀和實(shí)踐案例切入，運(yùn)用跨學(xué)科思維，探討規(guī)制路徑。

國外學(xué)者早期關(guān)注技術(shù)性正當(dāng)程序和算法決策，近期轉(zhuǎn)向研究人工智能技術(shù)的運(yùn)用問題。如學(xué)者們分別對加拿大、英國、瑞典、美國和歐盟的運(yùn)用現(xiàn)狀進(jìn)行研究。研究表明，加拿大行政部門根據(jù)指令披露了他們對算法系統(tǒng)的使用情況，但無法確認(rèn)所披露的信息是否詳盡。英國政府擔(dān)心會(huì)降低政府決策的透明度和公平性，算法可能從格式糟糕的數(shù)據(jù)集中繼承人類的偏見。在瑞典，因立法者希望法律保持技術(shù)中立，法律沒有明確規(guī)定何時(shí)允許自動(dòng)決策，良好行政和法治等核心民主理想也很少被關(guān)注。美國和歐盟都承認(rèn)，如果人工智能技術(shù)不以負(fù)責(zé)任的方式開發(fā)和部署，就會(huì)存在與之相關(guān)的風(fēng)險(xiǎn)，并肯定了“以人為本”的方法。針對自動(dòng)化行政的法律風(fēng)險(xiǎn)，學(xué)者從行政裁量權(quán)和程序公平性角度，探究人工智能時(shí)代問責(zé)機(jī)制和法治價(jià)值問題。Grimme likhuijsen & Meijer認(rèn)為，算法政府的特點(diǎn)是復(fù)雜性、不透明性和相互依賴性，這些特征改變了政府決策的性質(zhì)，并產(chǎn)生了一系列對政府合法性的威脅。Kanitz et al.指出，用生成式人工智能工具加強(qiáng)變革活動(dòng)時(shí)，必須保持謹(jǐn)慎和批判性思維。可見，域外學(xué)者們認(rèn)為，人工智能存在不透明、偏見、認(rèn)知錯(cuò)誤與偏差、數(shù)據(jù)安全、合法性等問題。人工智能時(shí)代自動(dòng)化行政的發(fā)展，也會(huì)不可避免地產(chǎn)生類似問題，需要我國政府部門予以重視。同時(shí)，域外學(xué)者注重運(yùn)用實(shí)證數(shù)據(jù)和跨學(xué)科分析方法，這也是本文要突破的重點(diǎn)方向。

二、人工智能時(shí)代自動(dòng)化行政的發(fā)展階段

本文采用案例研究方法探討人工智能時(shí)代自動(dòng)化行政的發(fā)展階段，運(yùn)用司法判例和行政機(jī)關(guān)實(shí)踐樣本勾勒自動(dòng)化行政的發(fā)展樣態(tài)。人工智能時(shí)代的自動(dòng)化行政，根據(jù)不同程度的人為干預(yù)，可分為輔助、部分和全自動(dòng)化三個(gè)階段，本部分將探討上述三個(gè)階段中自動(dòng)化行政的發(fā)展?fàn)顩r。

（一）強(qiáng)人工干預(yù)的 自動(dòng) 化輔助行政

輔助狀態(tài)下，自動(dòng)化系統(tǒng)只能發(fā)揮協(xié)助人類完成某項(xiàng)工作的作用，無法單獨(dú)承擔(dān)一部分任務(wù)，即識別、分析、決定的權(quán)力仍然全部掌握在行政機(jī)關(guān)工作人員手上。自動(dòng)化輔助行政類型眾多，以交通執(zhí)法領(lǐng)域的處罰為代表。因交通違法行為具有瞬時(shí)性和證據(jù)標(biāo)準(zhǔn)化特征，在采用自動(dòng)化系統(tǒng)后，必須輔助人工干預(yù)，以保障實(shí)體公正和行政相對人的程序權(quán)益。下文將探討實(shí)務(wù)案例中，自動(dòng)化輔助行政存在的實(shí)體或者程序問題。

從上述五起案件中，能發(fā)現(xiàn)作為輔助角色的電子警察，在取證環(huán)節(jié)經(jīng)常會(huì)出現(xiàn)完整性、真實(shí)性問題，并且出現(xiàn)程序問題。如案例1和案例2當(dāng)中，當(dāng)事人同樣對電子眼形成的證據(jù)提出了質(zhì)疑，不同地區(qū)有不同的判決結(jié)果。案例3、案例4、案例5當(dāng)中，針對程序問題，不同法院的觀點(diǎn)有所區(qū)別，部分法院認(rèn)為不影響行政相對人的權(quán)利，不影響行政行為的效力；也有法院認(rèn)為，這是程序上的不合法行為，依法應(yīng)當(dāng)撤銷。可見，不同法院在自動(dòng)化輔助行政的程序正當(dāng)問題上，存在不一樣的認(rèn)定標(biāo)準(zhǔn)。

實(shí)務(wù)判例中，司法機(jī)關(guān)一般會(huì)認(rèn)定運(yùn)用電子警察設(shè)備執(zhí)法符合法律規(guī)定，并且主張有限審查，即只審查電子設(shè)備投入過程、是否明顯不科學(xué)和產(chǎn)生大量的異議。在“寧伯學(xué)、保定市公安局交通警察支隊(duì)、保定市公安局行政處罰再審審查與審判監(jiān)督”一案中，寧伯學(xué)主張行政機(jī)關(guān)沒有提交電子警察設(shè)備的執(zhí)法手續(xù)、技術(shù)檢驗(yàn)合格手續(xù)、技術(shù)規(guī)范或相應(yīng)規(guī)定；再審法院審查后認(rèn)為，要求提供電子警察設(shè)備相關(guān)手續(xù)及檢驗(yàn)結(jié)果，沒有法律依據(jù)。“何凱、上海市公安局黃浦分局交警支隊(duì)行政處罰案”中，司法機(jī)關(guān)認(rèn)為法庭審查技術(shù)性問題的標(biāo)準(zhǔn)是法定審查，即審查系統(tǒng)是否經(jīng)過充分論證和測試、是否明顯違反邏輯和科學(xué)或難以解釋、是否存在重大反對意見或科學(xué)合理的懷疑；并指出從專業(yè)視角否認(rèn)該裝置的科學(xué)性，可能會(huì)對非法鳴笛的治理造成負(fù)面影響，影響行政機(jī)構(gòu)在未來執(zhí)法活動(dòng)中利用高科技手段懲治交通違法行為的能力。當(dāng)前多數(shù)地區(qū)采用技術(shù)手段實(shí)施交通執(zhí)法行為，其中佛山廣臺高速的“天價(jià)罰單”引發(fā)了熱議。在該地區(qū)一段道路上啟動(dòng)電子警察后，一年內(nèi)記錄了1.8萬多起交通違法行為，但交通事故總數(shù)和事故受傷人數(shù)同比大幅度下降；面對處罰，眾多車主積極申請行政復(fù)議維權(quán)，部分處罰行為被復(fù)議機(jī)關(guān)撤銷。可見，以電子警察為代表的自動(dòng)化輔助行政是把雙刃劍，一方面它提高了行政效能，減少了交通事故的發(fā)生；另一方面它增加了執(zhí)法密集度，引發(fā)了新的行政爭議，致使維權(quán)數(shù)量增多，進(jìn)而讓復(fù)議機(jī)關(guān)和司法機(jī)關(guān)的工作量增大。

（二）弱人工干預(yù)的部分自動(dòng)化行政

部分自動(dòng)化狀態(tài)下，自動(dòng)化系統(tǒng)能夠獨(dú)立完成某項(xiàng)任務(wù)，此任務(wù)無需人為干涉。在生成式人工智能背景下，自動(dòng)化系統(tǒng)可以預(yù)先設(shè)定算法，在收集和挖掘海量數(shù)據(jù)之后，通過機(jī)器學(xué)習(xí)的方式形成自主決定的內(nèi)容。交通執(zhí)法領(lǐng)域存在眾多的部分自動(dòng)化行政，如在中國的智能交通中，通過運(yùn)行基于深度學(xué)習(xí)的計(jì)算機(jī)視覺算法來生成結(jié)構(gòu)化數(shù)據(jù)，如目標(biāo)行人的位置、行駛速度、方向等，并進(jìn)一步解決農(nóng)村道路建設(shè)檢查監(jiān)督中的資源浪費(fèi)和缺乏直觀結(jié)果等問題。四川省交通行政審批業(yè)務(wù)處理系統(tǒng)是為該省各級交通審批人員提供在線審批工作的服務(wù)系統(tǒng)，該系統(tǒng)提供在線審批、自動(dòng)文件生成、證書打印管理等功能，它還可以在整個(gè)過程中與其他管理系統(tǒng)和數(shù)據(jù)庫共享經(jīng)批準(zhǔn)的數(shù)據(jù)資源。新加坡在城市地區(qū)建立了ERP高速公路電子收費(fèi)系統(tǒng)，該系統(tǒng)取代了限制區(qū)域和高速公路的手動(dòng)收費(fèi)系統(tǒng)，它已經(jīng)在一些擁堵的城市成功應(yīng)用，但也引發(fā)了人們對隱私和社會(huì)公平的擔(dān)憂。

域外方面，美國存在許多部分自動(dòng)化行政的推行經(jīng)驗(yàn)，如自動(dòng)決策系統(tǒng)（ADS）管理著美國的社會(huì)福利項(xiàng)目，橫跨地方、州和聯(lián)邦政府，比如失業(yè)和殘疾福利領(lǐng)域。引發(fā)擔(dān)憂是ADS可能大幅提高效率，但它們也很有可能加劇基于階級和種族的現(xiàn)狀不平等；并且這些系統(tǒng)的使用不透明，往往使個(gè)人在作出決定后沒有辦法行使追索權(quán)，個(gè)人甚至可能不知道ADS在決策過程中發(fā)揮了作用。對此，美國學(xué)者提出建議，聯(lián)邦政府應(yīng)立即采取行動(dòng)，增加自動(dòng)決策制度的透明度和責(zé)任追究力度；各機(jī)構(gòu)必須建立內(nèi)部技術(shù)能力以及以透明度、問責(zé)制和公平性為中心的數(shù)據(jù)文化；美國政府應(yīng)要求使用ADS的機(jī)構(gòu)采取通知和評論程序，向公眾披露有關(guān)這些系統(tǒng)的信息；立法機(jī)關(guān)通過全面立法，實(shí)施單一的國家標(biāo)準(zhǔn)，規(guī)范跨部門和用例使用ADS。在部分自動(dòng)化行政流程中，一些程序性步驟由技術(shù)系統(tǒng)獨(dú)立接管，不能自動(dòng)化的個(gè)別步驟由人工處理；人工生成的結(jié)果被轉(zhuǎn)移到技術(shù)系統(tǒng)進(jìn)行進(jìn)一步處理，并可能自動(dòng)做出決策。人工智能系統(tǒng)沒有義務(wù)檢查人類執(zhí)行的部分步驟的結(jié)果，總體責(zé)任仍由人類承擔(dān)；部分自動(dòng)化的類似變體是通過自動(dòng)檢查法律相關(guān)事實(shí)來準(zhǔn)備決策，從而由人類做出最終決策。

（三）無人工干預(yù)的完全自動(dòng)化行政

完全自動(dòng)行政中，由自動(dòng)化系統(tǒng)單獨(dú)實(shí)施某類行政行為的全部環(huán)節(jié)，不需要人工干預(yù)。從廣義上講，即使一項(xiàng)決定在形式上分配給了某個(gè)人，但如果此人在正式做出決定之前沒有主動(dòng)審核處理結(jié)果，該決定仍被視為自動(dòng)化處理。雖然完全自動(dòng)化決策是通過技術(shù)手段獨(dú)立作出，但是公共機(jī)構(gòu)須確保決策監(jiān)督具有實(shí)質(zhì)性。在挪威，若能提前確定所有法律要求和條件，相關(guān)法律規(guī)則即可執(zhí)行，從而實(shí)現(xiàn)自動(dòng)化執(zhí)行。挪威的法律規(guī)則可通過決策樹（一種層次結(jié)構(gòu)的預(yù)測分類模型）實(shí)現(xiàn)，若人類對法定條件的評估無裁量空間，則決策可完全自動(dòng)化。

近年來，中國深圳市通過政府大數(shù)據(jù)平臺建設(shè)，實(shí)施了無需人為干預(yù)審批流程的自動(dòng)審批，實(shí)現(xiàn)了秒報(bào)秒批的效果。為了實(shí)現(xiàn)這一目標(biāo)，深圳市政府運(yùn)用的技術(shù)有“人工智能”“大數(shù)據(jù)”“區(qū)塊鏈”等。深圳構(gòu)建了一個(gè)統(tǒng)一的全市政府信息資源分享平臺，集中了電子證書、公共信貸等數(shù)據(jù)資源；通過為所有類型的數(shù)據(jù)庫創(chuàng)建共享和重用渠道，該平臺促進(jìn)跨區(qū)域的數(shù)據(jù)共享和互操作。與此同時(shí)，上海正在推進(jìn)無需人工干預(yù)的自動(dòng)許可證變更業(yè)務(wù)，通過利用人工智能等技術(shù)，建立一種新的模式，以實(shí)現(xiàn)審批自動(dòng)化、多樣化渠道和便捷審批服務(wù)；一旦在線申請成功，處理結(jié)果將在30秒內(nèi)可用，如果獲得批準(zhǔn)，企業(yè)負(fù)責(zé)人可通過免費(fèi)郵寄方式獲取許可證，或在現(xiàn)場等待領(lǐng)取證書。

三、人工智能時(shí)代自動(dòng)化行政風(fēng)險(xiǎn)樣態(tài)

自動(dòng)化輔助行政、部分自動(dòng)化行政、完全自動(dòng)化行政三個(gè)發(fā)展階段存在不同的風(fēng)險(xiǎn)樣態(tài)，但是也存在共性之處，如對行政相對人程序權(quán)益的侵害，致使程序正義理念難以得到實(shí)現(xiàn)。本文無法窮盡自動(dòng)化行政的全部風(fēng)險(xiǎn)類型，在提取司法裁判現(xiàn)狀和實(shí)踐案例的相關(guān)內(nèi)容后，將人工智能時(shí)代自動(dòng)化行政風(fēng)險(xiǎn)樣態(tài)歸納為“權(quán)力黑箱、治理偏見、權(quán)力異化、權(quán)力惰性、私權(quán)侵害”五類范疇。

（一）“算法黑箱”形成“權(quán)力黑箱”

算法黑箱現(xiàn)象出現(xiàn)在數(shù)據(jù)輸入、計(jì)算過程和結(jié)果輸出三個(gè)階段。由于公共利益原因，知情同意規(guī)則被豁免，導(dǎo)致數(shù)據(jù)采集過程不透明；出于保護(hù)商業(yè)秘密的考慮，算法的決策流程也不對外公開；此外，數(shù)據(jù)分析結(jié)果與決策之間的轉(zhuǎn)換過程同樣未公開披露。自動(dòng)化行政的算法缺乏透明度和可解釋性，在某些情況下可能會(huì)產(chǎn)生有爭議或不公平的決策，并且由于其不透明性，人們無法理解為何會(huì)出現(xiàn)這些結(jié)果。算法黑箱引發(fā)了不透明、陌生性、不可預(yù)測性和合理性等問題，對自動(dòng)化決策構(gòu)成了挑戰(zhàn)。如新加坡的ERP高速公路電子收費(fèi)系統(tǒng)和美國的自動(dòng)決策系統(tǒng)，因算法決策缺乏公開決策過程，行政相對人很難認(rèn)同決策內(nèi)容，進(jìn)而影響決策的執(zhí)行效果。

同時(shí)，算法黑箱使政府決策高度保密，決策動(dòng)機(jī)、程序、結(jié)果的復(fù)雜性加劇了黑箱屬性，形成了“權(quán)力黑箱”。人工智能技術(shù)融入政府決策過程中，算法不可預(yù)測性、難以解釋等特征也傳導(dǎo)到了公共決策，由此也引發(fā)了“權(quán)力黑箱”；并為權(quán)利的實(shí)現(xiàn)制造了障礙，公民無法理解、參與和監(jiān)督政府權(quán)力的行使。在算法技術(shù)的運(yùn)行過程中，存在黑箱風(fēng)險(xiǎn)，普通群眾可能難以接受算法技術(shù)與權(quán)力融合。“權(quán)力黑箱”反映了算法時(shí)代的悖論，即數(shù)據(jù)以驚人的速度傳播，但具有重大影響的信息只有內(nèi)部人員才能訪問。現(xiàn)有數(shù)據(jù)資源和算法技術(shù)是有限的，行政相對人基于算法黑箱推薦的服務(wù)內(nèi)容，必然存在相應(yīng)的算法風(fēng)險(xiǎn)或其他風(fēng)險(xiǎn)。如ChatGPT的大模型對公眾來說就是一個(gè)黑箱，很少有人能真正理解其背后的操作邏輯和知識架構(gòu)，因?yàn)樵撃Ｐ屠脧?qiáng)化學(xué)習(xí)與深度學(xué)習(xí)方法、學(xué)習(xí)模式和訓(xùn)練模型，使ChatGPT背后的偏見問題更加隱蔽和難以檢測。

（二）“算法歧視”激化“治理偏見”

算法歧視來自于數(shù)據(jù)，不公平的數(shù)據(jù)集是根源。倘若訓(xùn)練數(shù)據(jù)有傾向性或固有偏見，潛在偏見可能會(huì)無意中嵌入到算法中，此時(shí)的決策會(huì)放大和強(qiáng)化已有的歧視和偏見。特別是在無人工干預(yù)的完全自動(dòng)化行政中，行政相對人可能不知道自己正在遭受算法歧視，并且也難以知道自己是因哪些特征而被歧視。同時(shí)，政府治理過程中可能會(huì)延續(xù)陳規(guī)定型觀念和歧視性做法，影響個(gè)人和邊緣化群體，缺乏人工監(jiān)督和干預(yù)也將導(dǎo)致錯(cuò)誤和意想不到的后果。算法歧視的事先預(yù)防和理論探索不容忽視，算法歧視的確定和問責(zé)也是良好治理的關(guān)鍵環(huán)節(jié)，倘若缺乏問責(zé)機(jī)制，很難評估算法治理的有效性。

針對算法歧視，目前法律治理產(chǎn)生了兩方面的問題，一是治理目標(biāo)的普遍性，即算法歧視監(jiān)管范圍太廣；二是治理手段的碎片化，即算法歧視監(jiān)管工具的混亂。算法歧視的內(nèi)涵中包括“算法偏見”，它對應(yīng)于語義表達(dá)中法律層面的歧視；同時(shí)包括“算法不平等”，它對應(yīng)于語義表達(dá)中道德維度的歧視。適用公法—私法規(guī)范所描述的“算法偏見”的情況主要在公法領(lǐng)域，同時(shí)部分涉及公民福祉的私法領(lǐng)域；“算法不平等”情景則是私法領(lǐng)域的其余部分。從人工系統(tǒng)向機(jī)器學(xué)習(xí)系統(tǒng)的轉(zhuǎn)變，提供了克服治理偏見的機(jī)會(huì)。但因自然語言的歧義性特點(diǎn)，有偏見的文化在不知不覺中不依附于語言的靜態(tài)符號，智能應(yīng)用產(chǎn)生的敘事可以再現(xiàn)新的偏見。生成式人工智能的獨(dú)立學(xué)習(xí)與決策能力，可能產(chǎn)生偏見、歧視和不公平的結(jié)果。如果算法系統(tǒng)不加思考地依賴于海量數(shù)據(jù)，機(jī)器學(xué)習(xí)也會(huì)提高治理偏見的可能性。

（三）“技術(shù)權(quán)力”致使“權(quán)力異化”

技術(shù)權(quán)力是技術(shù)要素和政治結(jié)構(gòu)相互作用的產(chǎn)物，反映了技術(shù)的權(quán)力關(guān)系和政治效果，技術(shù)權(quán)力源于一國的國家創(chuàng)新能力，是國家權(quán)力的組成部分。它兼具軟權(quán)力和資源權(quán)力的特質(zhì)，通過迎合偏好、撫慰情緒來吸引、引導(dǎo)他人做其想做的事，從而實(shí)現(xiàn)操控目的。與傳統(tǒng)的強(qiáng)制權(quán)力不同，它通過本能、無意識的方式，表現(xiàn)為一種基于理解的權(quán)力。人工智能算法的技術(shù)權(quán)力是看似客觀的權(quán)力譜系，由數(shù)據(jù)的設(shè)計(jì)、構(gòu)建、調(diào)節(jié)、操作和處理形成，但根據(jù)技術(shù)本身的效率原理和效果原理，具有明顯的技術(shù)理性特征。人工智能算法通過機(jī)器優(yōu)勢爭奪人類的決策權(quán)，并基于優(yōu)勢構(gòu)建人類的認(rèn)知和行為模型，極速擴(kuò)展其影響，塑造社會(huì)運(yùn)作。數(shù)據(jù)和算法正成為人工智能時(shí)代新的權(quán)力要素，任何擁有更完整、更高質(zhì)量數(shù)據(jù)并掌握更先進(jìn)算法的人都可以擁有更多的權(quán)力。新的權(quán)力生產(chǎn)要素的出現(xiàn)預(yù)示著權(quán)力技術(shù)轉(zhuǎn)移機(jī)制的激活，技術(shù)優(yōu)勢將轉(zhuǎn)化為權(quán)力或權(quán)力優(yōu)勢，并且技術(shù)權(quán)力開始向治理權(quán)力流動(dòng)。以強(qiáng)勢組織為中心的權(quán)力關(guān)系集中結(jié)構(gòu)將被分散，直到下一個(gè)強(qiáng)勢組織的出現(xiàn)。值得注意的是，新技術(shù)可能導(dǎo)致權(quán)力的意識形態(tài)風(fēng)險(xiǎn)指數(shù)逐漸放大，與公共權(quán)力合謀，產(chǎn)生權(quán)力異化狀態(tài)。

社會(huì)主體作為人工智能技術(shù)的研發(fā)者，往往也是人工智能技術(shù)的傳播主體，該主體比其他主體擁有更多關(guān)于人工智能技術(shù)的信息，這使他可能掩蓋主體身份并濫用社會(huì)權(quán)力。國家作為行使人工智能技術(shù)的另一主角，盡管也擁有大量的技術(shù)信息，但其時(shí)間滯后于社會(huì)主體，導(dǎo)致信息不對稱。如“何凱、上海市公安局黃浦分局交警支隊(duì)行政處罰”案中，司法機(jī)關(guān)為了避免對非法鳴笛的治理產(chǎn)生負(fù)面影響，認(rèn)為不能從專業(yè)視角否認(rèn)電子監(jiān)控設(shè)備的科學(xué)性，進(jìn)而將設(shè)備科學(xué)性的審查權(quán)力交給了行政機(jī)關(guān)和社會(huì)主體。該觀點(diǎn)明確了法定審查標(biāo)準(zhǔn)，但也可能導(dǎo)致行政機(jī)關(guān)推諉諉責(zé)任、放棄技術(shù)權(quán)力，或者社會(huì)主體侵越權(quán)力的現(xiàn)象發(fā)生。作為社會(huì)治理中的關(guān)鍵作用，行政機(jī)關(guān)具有強(qiáng)大的自主性，應(yīng)當(dāng)依法依規(guī)行使權(quán)力。

（四）“技術(shù)依賴”催化“權(quán)力惰性”

在自動(dòng)化行政中，技術(shù)依賴主要體現(xiàn)為對高質(zhì)量數(shù)據(jù)以及自動(dòng)化行政系統(tǒng)的訓(xùn)練、測試和改進(jìn)的依賴。權(quán)力和技術(shù)以依賴路徑的方式相互作用，其中權(quán)力結(jié)構(gòu)影響技術(shù)的采用和實(shí)施，而技術(shù)反過來又影響權(quán)力關(guān)系。技術(shù)進(jìn)步推動(dòng)的開創(chuàng)性變革會(huì)破壞現(xiàn)有的權(quán)力結(jié)構(gòu)，并導(dǎo)致組織內(nèi)部的權(quán)力集中。隨著權(quán)力集中于中央機(jī)構(gòu)，技術(shù)依賴可能會(huì)催化權(quán)力惰性。人們傾向于依賴人工智能，這在很大程度上是因?yàn)槿藗冎恢廊斯ぶ悄芸梢宰龀霰热祟惛玫臎Q定，但不知道為什么人工智能可以做出這樣的決定；這使得人類無法從人工智能中學(xué)習(xí)，但更依賴人工智能，最終被掌握在人工智能的技術(shù)力量之下。自動(dòng)化行政增強(qiáng)了行政任務(wù)的完成效率，但也可能致使執(zhí)法人員嚴(yán)重依賴算法。

人工智能時(shí)代的技術(shù)依賴，在某種意義上是國家對社會(huì)權(quán)力的依賴。社會(huì)權(quán)力及其運(yùn)行狀態(tài)是技術(shù)依賴產(chǎn)生的關(guān)鍵變量，技術(shù)力量社會(huì)化失控，集中在兩種相互結(jié)合的過程形式中，即權(quán)力的技術(shù)邏輯和技術(shù)的權(quán)力慣性。技術(shù)權(quán)力的慣性體現(xiàn)為由權(quán)力驅(qū)動(dòng)的技術(shù)理性逐漸支配甚至取代人類理性的基本邏輯。隨著人工智能等技術(shù)的不斷發(fā)展，一方面，完成了技術(shù)理性向意識形態(tài)和絕對正確性的蛻變；另一方面，也實(shí)現(xiàn)了人類理性向技術(shù)理性的轉(zhuǎn)變。值得注意的是，技術(shù)依賴可能導(dǎo)致自動(dòng)化系統(tǒng)缺乏可控制性和可預(yù)見性，人類難以保持對具有自主權(quán)的編程機(jī)器的控制。同時(shí)，限制了行政機(jī)關(guān)在控制力、安全性、透明度、錯(cuò)誤識別及系統(tǒng)操作理解方面的能力。

（五）“公權(quán)擴(kuò)張”引發(fā)“私權(quán)侵害”

自動(dòng)化行政可能通過操縱或?qū)彶樾畔碛绊懷哉撟杂珊蛡€(gè)人信息權(quán)益；通過傳播虛假信息或宣傳，影響公眾輿論并限制獲得不同觀點(diǎn)的機(jī)會(huì)。個(gè)人數(shù)據(jù)的商品化容易威脅到隱私權(quán)，人工智能對數(shù)據(jù)的過度取用引發(fā)了嚴(yán)重的隱私擔(dān)憂。自動(dòng)化行政也加劇了透明度和問責(zé)制的缺陷，因?yàn)槭褂盟惴ㄟM(jìn)行決策可能缺乏透明度，并且很難追究平臺對其行為的責(zé)任；擴(kuò)大平臺權(quán)限以監(jiān)管在線言論時(shí)，對平臺本身的監(jiān)督和檢查有限，可能會(huì)影響到用戶的私權(quán)。

人工智能時(shí)代的私權(quán)侵害不同于以往的侵權(quán)形態(tài)。首先，侵權(quán)范圍擴(kuò)大，侵權(quán)損害后果更加嚴(yán)重。佛山廣臺高速的“天價(jià)罰單”案件顯示，行政主體反復(fù)運(yùn)用電子監(jiān)控設(shè)備聚合個(gè)人違法信息，可能因違反法定程序要求，嚴(yán)重侵害個(gè)人的合法權(quán)益。而隨著人工智能的運(yùn)用變多，侵犯不特定群體權(quán)益的可能性也會(huì)增加。其次，產(chǎn)生了新的侵權(quán)方式，人工智能的自學(xué)習(xí)和自決策能力引起了人們對潛在侵權(quán)行為的擔(dān)憂，如自學(xué)習(xí)能力的發(fā)展可能導(dǎo)致人工智能在沒有人為意圖或不知情的情況下侵犯知識產(chǎn)權(quán)。并且人工智能支持更復(fù)雜的訪問和利用個(gè)人信息的方法，這使得發(fā)現(xiàn)和防止侵權(quán)行為變得更加困難。最后，追究侵權(quán)者的責(zé)任更加困難。傳統(tǒng)侵權(quán)案件中，責(zé)任一般可以被追溯到具體的個(gè)人或?qū)嶓w。但在人工智能系統(tǒng)中，責(zé)任可能分散到多個(gè)層面，包括開發(fā)者、數(shù)據(jù)提供者、訓(xùn)練數(shù)據(jù)、算法本身等。如數(shù)據(jù)經(jīng)紀(jì)人和數(shù)據(jù)生產(chǎn)者等各種實(shí)體參與數(shù)據(jù)產(chǎn)業(yè)鏈，形成了復(fù)雜的責(zé)任網(wǎng)絡(luò)，使得追究侵犯隱私行為的責(zé)任變得困難。并且人工智能系統(tǒng)的工作原理十分復(fù)雜，有時(shí)甚至開發(fā)者也無法準(zhǔn)確解釋其內(nèi)部決策過程，更難以區(qū)分清楚不同主體的責(zé)任大小問題。同時(shí)，隨著生成式人工智能的興起，法律和監(jiān)管機(jī)構(gòu)難以及時(shí)跟上技術(shù)變革的步伐，這可能導(dǎo)致侵害行為的監(jiān)管和問責(zé)滯后于技術(shù)應(yīng)用。

四、人工智能時(shí)代自動(dòng)化行政的規(guī)制路徑

2023年8月，國務(wù)院辦公室發(fā)布了政府服務(wù)效率標(biāo)準(zhǔn)化機(jī)制的意見，匯集了57個(gè)地方部門提高政府服務(wù)效率的典型實(shí)例，其中，泉州數(shù)字政府的實(shí)踐涉及了人民的身邊事，促進(jìn)了“無處不在”的政府服務(wù)，是全國推廣的案例之一。通過實(shí)施公共服務(wù)標(biāo)準(zhǔn)化，泉州市某中心將全部政務(wù)流程納入一體化體系當(dāng)中，此經(jīng)驗(yàn)做法已被評為提升政務(wù)服務(wù)效能的典型案例。該機(jī)構(gòu)的經(jīng)驗(yàn)具有一定的啟發(fā)意義，可以讓其他行政機(jī)構(gòu)在探索自動(dòng)化行政路徑時(shí)找到一些共同的屬性。因此，本文選取泉州市某中心運(yùn)用自動(dòng)化行政的現(xiàn)實(shí)樣貌，作為探索自動(dòng)化行政的樣本。泉州市某中心的行政活動(dòng)具有數(shù)字化、技術(shù)性、人工智能與人工審核等特征，通過關(guān)注該中心自動(dòng)化行政的運(yùn)行狀態(tài)，能探討理想運(yùn)行模式。同時(shí)深入探索行政活動(dòng)背后的理論邏輯，能揭示新興信息技術(shù)在行政活動(dòng)領(lǐng)域的應(yīng)用樣態(tài)。下文將結(jié)合泉州市某中心辦事群眾、窗口工作人員、進(jìn)駐領(lǐng)導(dǎo)的訪談?dòng)涗洠岢鲆?guī)制路徑。

（一）明確算法系統(tǒng)的可解釋性規(guī)則

人工智能時(shí)代，算法系統(tǒng)影響下的自動(dòng)化行政容易產(chǎn)生黑箱機(jī)制，該機(jī)制致使算法結(jié)構(gòu)及其決策過程的不透明度，并形成黑箱力量。黑箱力量通過限制透明度和對決策方式的理解來提高算法管理的有效性，個(gè)人在算法系統(tǒng)中的有限代理權(quán)可能進(jìn)一步增強(qiáng)黑箱力量，因?yàn)樗麄儗λ惴ǖ男袨閹缀鯖]有控制權(quán)或洞察力，這種缺乏透明度的狀況引發(fā)了人們對問責(zé)制以及算法決策中可能出現(xiàn)偏見或歧視的擔(dān)憂。泉州市某中心的受訪員工指出，“自動(dòng)化行政中的黑箱力量可能導(dǎo)致機(jī)構(gòu)內(nèi)部缺乏對決策過程的理解，算法結(jié)構(gòu)可解釋性的缺乏還會(huì)限制機(jī)關(guān)工作人員的能動(dòng)性，并降低工作人員影響決策的能力”。缺乏可解釋性也使算法系統(tǒng)本身產(chǎn)生了一種力量感，因?yàn)樗鼈儠?huì)監(jiān)測自己的行為，并以預(yù)見的方式順從地行事。具體應(yīng)對措施包括：針對不同算法黑箱模型，滿足算法系統(tǒng)的可解釋性需求；解釋標(biāo)準(zhǔn)應(yīng)側(cè)重于理解和信任等心理因素；測試提供解釋的各種方法，并根據(jù)現(xiàn)有問題制定有關(guān)可解釋性的法律規(guī)則，以應(yīng)對公共活動(dòng)中自動(dòng)化決策的挑戰(zhàn)。如英國信息專員辦公室（ICO）發(fā)布了人工智能決策解釋指南，根據(jù)算法本身是否為黑箱算法，并考慮到其無法解釋和神秘的性質(zhì)，對算法進(jìn)行分類；當(dāng)存在其他非黑箱算法時(shí)，優(yōu)先適用這些算法，如線性回歸、決策樹、k近鄰、廣義加性模型等。此外，應(yīng)當(dāng)依法核實(shí)政府及其部門的權(quán)力和責(zé)任清單，避免“權(quán)力黑箱”出現(xiàn)，消除腐敗空間，保證權(quán)力公開透明、有序運(yùn)行。

（二）凝聚利益相關(guān)者的治理共識

法律規(guī)則作為約束措施，可以對算法決策進(jìn)行優(yōu)化。實(shí)務(wù)中產(chǎn)生的問題與歷史上的制度歧視類似，能通過凝聚共識方式來解決。算法歧視不是自動(dòng)化決策問責(zé)制的必備因素，不同群體充分地表達(dá)利益訴求能解決治理偏見問題。運(yùn)用法律規(guī)則解決算法歧視和治理偏見過程中，需要注意利益相關(guān)者的多元性。技術(shù)系統(tǒng)涉及多個(gè)利益相關(guān)者，包括編譯算法程序代碼的開發(fā)參與者、為算法操作提供必要數(shù)據(jù)的供應(yīng)參與者、使用數(shù)據(jù)執(zhí)行算法模型的培訓(xùn)參與者、制造人工智能系統(tǒng)的生產(chǎn)參與者和部署可操作人工智能系統(tǒng)應(yīng)用的參與者，這些利益相關(guān)者的行為可能導(dǎo)致算法侵權(quán)；如算法程序代碼開發(fā)主體的疏忽，導(dǎo)致算法程序操作中的錯(cuò)誤，或者數(shù)據(jù)提供主體所提供數(shù)據(jù)中的偏見，導(dǎo)致算法決策結(jié)果中的歧視性影響等。泉州市某中心受訪負(fù)責(zé)人坦言，“就中立性而言，技術(shù)本身沒有價(jià)值，但算法設(shè)計(jì)者有可能帶來價(jià)值傾向；自動(dòng)化行政過程中，可能缺乏陳述申辯、救濟(jì)的環(huán)節(jié)，算法歧視、算法偏見的現(xiàn)象層出不窮”。具體的對策是：首先，當(dāng)利益相關(guān)者借助算法力量形成自己的意見時(shí)，行政機(jī)關(guān)應(yīng)當(dāng)注重推動(dòng)共治的形成。其次，算法作為爭搶權(quán)力的關(guān)鍵點(diǎn)，本身包含著一種價(jià)值判斷，應(yīng)當(dāng)注意避免算法出現(xiàn)歧視或者不公的現(xiàn)象。最后，為了解決自動(dòng)化行政系統(tǒng)的主觀偏差，應(yīng)當(dāng)使用第三方評估監(jiān)控機(jī)制來消除治理偏見的風(fēng)險(xiǎn)。

（三）承認(rèn)技術(shù)力量持有者的權(quán)力

技術(shù)和權(quán)力這兩類要素并不相互獨(dú)立，技術(shù)權(quán)力是基于基礎(chǔ)技術(shù)占據(jù)技術(shù)優(yōu)勢，并對其他主體施加控制力或約束力。技術(shù)自主性深刻地改變了傳統(tǒng)的權(quán)力運(yùn)作方式和行動(dòng)機(jī)制，統(tǒng)治通過技術(shù)擴(kuò)大了影響力，并為權(quán)力提供了足夠的合法性。人工智能的技術(shù)力量主要由傳統(tǒng)的公共權(quán)力和社會(huì)權(quán)力驅(qū)動(dòng)，即通過人工智能技術(shù)掌握控制他人的權(quán)力。泉州市某中心受訪員工也提出了疑慮，“人工智能技術(shù)力量的持有者有可能濫用權(quán)力，利用人工智能的黑箱屬性作為盾牌，將個(gè)人價(jià)值判斷納入自動(dòng)化決策過程，侵犯普通群眾的權(quán)利，逃避法律監(jiān)管”。技術(shù)權(quán)力異化為治理權(quán)力過程中，產(chǎn)生了兩難選擇。一方面，作為社會(huì)權(quán)力持有者（如人工智能的設(shè)計(jì)師、制造商）有能力超越國家權(quán)力，處置他人的合法權(quán)利，這是國家權(quán)力無法接受的；另一方面，國家權(quán)力的過度參與可能會(huì)阻礙人工智能的發(fā)展，這也是社會(huì)權(quán)力持有者無法接受的。具體應(yīng)對措施包括：首先，承認(rèn)社會(huì)技術(shù)力量的存在。人工智能算法有自己的工作邏輯，它通過高技術(shù)性、復(fù)雜性和不透明性隱藏了自己的強(qiáng)制性特征，也為算法技術(shù)力量的隱含功能提供了條件。其次，有條件地承認(rèn)社會(huì)權(quán)力持有者的技術(shù)權(quán)力。人工智能算法的工作機(jī)制產(chǎn)生了社會(huì)的隱性技術(shù)力量，應(yīng)當(dāng)通過重構(gòu)社會(huì)權(quán)力，將符合國家價(jià)值理念的內(nèi)容擴(kuò)展到現(xiàn)實(shí)空間。最后，平衡國家權(quán)力和社會(huì)權(quán)力的關(guān)系。自主技術(shù)能夠行使國家和社會(huì)賦予的部分權(quán)力，特別是通過承接從國家（政府）轉(zhuǎn)移而來的權(quán)力，將其施加于權(quán)力對象。人工智能技術(shù)滲透到權(quán)力運(yùn)行的過程中，應(yīng)當(dāng)平衡國家權(quán)力與社會(huì)權(quán)力之間的關(guān)系。

（四）確立以人為本的理念

行政組織對人工智能和自動(dòng)化系統(tǒng)的使用表明，辦事人員越來越依賴技術(shù)來實(shí)現(xiàn)各種目的，包括公共服務(wù)的提供、分析、監(jiān)測和監(jiān)管研究。泉州市某中心受訪負(fù)責(zé)人指出，“自動(dòng)化行政系統(tǒng)提供了可以幫助甚至替代人類行為的新功能，可能會(huì)導(dǎo)致相關(guān)部門工作人員在決策過程中產(chǎn)生惰性思維”。人工智能在公共領(lǐng)域的運(yùn)用可能會(huì)出現(xiàn)錯(cuò)誤或不準(zhǔn)確，對人工智能的日益依賴會(huì)導(dǎo)致決策內(nèi)容與其所承擔(dān)的價(jià)值觀（如公開、透明、解釋、監(jiān)督）發(fā)生沖突。而將以人為本理念整合到自動(dòng)化行政實(shí)施中，能解決技術(shù)依賴和價(jià)值觀偏差問題。具體措施包括：首先，由數(shù)據(jù)科學(xué)家、人工智能專家、領(lǐng)域?qū)＜液推渌嫦嚓P(guān)者參與協(xié)作開發(fā)，讓普通群眾理解數(shù)據(jù)，實(shí)現(xiàn)適當(dāng)?shù)墓δ芎陀行гu估自動(dòng)化系統(tǒng)。其次，技術(shù)對公民權(quán)利和公共利益帶來了重大影響，應(yīng)當(dāng)確保人工智能仍然是輔助工具，發(fā)揮人類的主體作用，不扭曲立法程序或威脅民主。再次，現(xiàn)實(shí)的復(fù)雜性以及對更精確和技術(shù)性立法的需求，為完善人工智能的適用創(chuàng)造了機(jī)遇，但必須謹(jǐn)慎行事，以保持技術(shù)和民主原則、權(quán)利保障之間的平衡。最后，盡管機(jī)器學(xué)習(xí)系統(tǒng)可能比傳統(tǒng)的統(tǒng)計(jì)技術(shù)更具自主性，但它們?nèi)匀恍枰祟悇?chuàng)造者和監(jiān)督者指定目標(biāo)、命令和后果。因機(jī)器學(xué)習(xí)算法缺乏謀求私利的意圖，人類應(yīng)當(dāng)保留對算法規(guī)格及其輸出轉(zhuǎn)化的監(jiān)管行動(dòng)的最終控制權(quán)，并由授權(quán)的政府官員設(shè)置目標(biāo)，以此有效地避免歧視或者偏見。

（五）“落實(shí)最小損害原則”

人工智能在社會(huì)中的日益普及，引發(fā)了人們對人工智能系統(tǒng)放大現(xiàn)有偏見和不平等的擔(dān)憂。泉州市某中心受訪辦事群眾認(rèn)為，“隨著自動(dòng)化行政系統(tǒng)收集、處理和分析大量個(gè)人信息，個(gè)人越來越容易受到數(shù)據(jù)利用和監(jiān)控，職權(quán)部門需要加強(qiáng)對個(gè)人數(shù)據(jù)和隱私權(quán)的保護(hù)”。人工智能時(shí)代下，行政機(jī)關(guān)運(yùn)用自動(dòng)化行政手段不斷擴(kuò)展公權(quán)力，會(huì)引發(fā)私權(quán)利侵害問題。如稅務(wù)部門通過自動(dòng)化系統(tǒng)訪問到大量數(shù)據(jù)，可能對私權(quán)構(gòu)成嚴(yán)重威脅；尤其是在收集數(shù)據(jù)環(huán)節(jié)，未經(jīng)授權(quán)的訪問或?yàn)E用私人數(shù)據(jù)會(huì)引發(fā)嚴(yán)重的侵權(quán)現(xiàn)象。具體措施包括：首先，行政主體應(yīng)當(dāng)關(guān)注私權(quán)保護(hù)問題，特別注意有偏見的歷史數(shù)據(jù)的運(yùn)用可能使歧視永久化，并導(dǎo)致行政給付、行政處罰等領(lǐng)域產(chǎn)生不公平?jīng)Q策。其次，當(dāng)自動(dòng)化行政不可避免地侵入私權(quán)領(lǐng)域時(shí)，應(yīng)當(dāng)區(qū)分對不同權(quán)利的限制程度。有些權(quán)利，如生命權(quán)、不受酷刑的權(quán)利、不被奴役的權(quán)利是絕對的；而有些權(quán)利則不是，例如，在公共緊急狀態(tài)下，國家有權(quán)克減大多數(shù)人權(quán)；其他權(quán)利，如隱私權(quán)和言論自由，則受到限制，但是對這些權(quán)利的任何限制都應(yīng)是例外，并應(yīng)基于合法目的。最后，必須強(qiáng)調(diào)的是，任何權(quán)利的限制都必須符合法律，并且是必要的和相稱的，符合最小損害原則。

結(jié)語

依托算法和算力的快速發(fā)展，人工智能時(shí)代的自動(dòng)化行政為提高行政效率、減少主觀偏差提供了技術(shù)可能。但伴隨著自動(dòng)化行政由強(qiáng)人工干預(yù)邁向無人工干預(yù)，更深層次的治理風(fēng)險(xiǎn)也隨之浮現(xiàn)。構(gòu)建與各類自動(dòng)化行政相適應(yīng)的有效規(guī)制框架，是行政機(jī)關(guān)運(yùn)用人工智能技術(shù)履行公共職責(zé)的關(guān)鍵所在。本研究通過實(shí)證分析，嘗試對自動(dòng)化行政的規(guī)制路徑作出初步探索。然而，受限于實(shí)際案例與訪談樣本的不足，當(dāng)前研究尚未能完全涵蓋人工智能時(shí)代下自動(dòng)化行政的全部規(guī)制路徑。自動(dòng)化行政融合了法律、計(jì)算機(jī)科學(xué)與管理學(xué)等多學(xué)科知識，適宜采用跨學(xué)科研究方法。未來研究將繼續(xù)依托這一方法，深入探尋其規(guī)制路徑。