李正風、王碩：生成式AI與科研誠信治理：基于社會實驗視角的分析

生成式AI與科研誠信治理:基于社會實驗視角的分析

李正風1 王 碩2

(1 清華大學社會科學學院;

2 清華大學馬克思主義學院)

DOI:10.19524/j.cnki.10-1009/g3.2026.02.001

生成式人工智能（下文簡稱“生成式AI”）推動人類認知行為的技術性替代進入新時代，不斷重塑知識生產格局，也對既有科研誠信規范帶來挑戰。面對技術與規范的雙重不確定性，傳統自上而下制定靜態規則的方式日益暴露出一定局限。學術出版界圍繞AI使用的治理探索，實際上可以被看作一場自發的、去中心化的社會實驗。本文以社會實驗的視角切入，從實驗的覆蓋面、測量有效性和學習深度三個條件出發，審視當前治理探索的得失，并探討改進的方向。

學術期刊針對生成式AI制定政策的過程，本身就在不斷試錯和調整。例如，Science期刊最初全面禁用生成式AI，在學界反饋和現實壓力的推動下，其態度逐漸轉變為在滿足披露要求的前提下允許使用。這種調整展現了干預、反饋與學習的基本循環。去中心化的格局使各國、各機構、各期刊成為相對獨立的探索單元，差異化的應對策略為治理知識的積累提供了基礎。

當前有關生成式AI在科研場景中應用的規制探索，已形成一些基本共識。例如，人類必須承擔全部責任，AI使用過程必須披露，AI不能作為署名作者等。但這些共識偏重防御，只劃定了AI不能做什么。在使用邊界、審稿人權限和治理范圍上，依然存在較大的分歧。有的期刊將AI用途限定在語言潤色等場景，有的期刊要求作者詳細披露提示詞。以有效社會實驗的條件來審視，當下的治理探索正面臨一定困境。

第一，規制范圍較為失衡。壓力主要由作者承擔，審稿人和出版商環節沒有受到同等力度的關注。有研究估算，2023至2024年間計算機領域部分頂級會議中，由大語言模型生成的審稿意見占到7%至17%。一些期刊甚至嘗試用AI替代人類編輯處理稿件。此外，既有規制還未能覆蓋提示注入等新型風險。2025年，西南財經大學數據法學研討會發現投稿者用白色字體在論文中嵌入隱藏提示詞，試圖操縱AI審稿流程，常規檢測手段對此難以發現。與此同時，長期依賴AI可能削弱研究者的批判性思維，使研究者對AI輸出的錯誤信息喪失警覺。這種影響是慢性的、彌散的，逐漸損害公共知識生產的質量根基。

第二，測量工具本身并不可靠，還可能會將治理目標引向歧途。主流的AIGC檢測工具準確率和一致性相對較低，而且通過同義詞替換或簡單改寫即可繞過。用AI來檢測AI，從技術邏輯上看本身就是一個悖論，很容易陷入生成與檢測之間的攻防循環，大量治理資源被消耗在技術對抗上。我們發展AI技術的目標是“讓AI越來越像人”，但治理的邏輯卻反過來，要求人“自證不是AI”。更大的問題在于，當期刊把精力放在檢測文本的AI痕跡上，評估的重心就從研究有無原創性學術貢獻變成了文字是不是AI寫的。部分期刊硬性規定AI生成內容不得超過某個百分比，把科研誠信判斷簡化成了數字，用手段替代了目的。模糊的披露要求還帶來了所謂“披露懲罰”的現象，研究者擔心主動披露會招致更嚴審查或者區別對待，“想用AI不敢用”、“用了AI不敢說”的問題愈發嚴重。

第三，政策學習停留在形式模仿，治理路徑高度趨同。在聲譽風險的驅動下，很多期刊紛紛模仿領域內高聲望同行的做法，發布的AI政策迅速趨同。調查顯示，國內90%的社科期刊發布了相似的禁止條款。以禁止清單、技術檢測和量化閾值為典型手段的治理模式，能夠應付簡單的文本生成問題，卻難以應對過程性攻擊和認知能力的侵蝕。這種趨同還造成了宏觀戰略與微觀實踐之間的脫節。當前，國家、高校和科研機構大力倡導AI for Science，鼓勵探索AI賦能科研的潛能，而在期刊發表層面，審查體系卻以嚴防死守為主要基調。一線研究者陷入兩難，無所適從。

走出這些困境，未來可能需要從三個方向著力。

第一，從只關注作者轉向全流程的共同治理。治理責任必須擴展到審稿人、編輯、出版商和AI公司。期刊應針對審稿人也使用AI制定專門指南，明確保密義務。出版商不得用AI替代人類編輯的核心判斷。高校應提供分學科的差異化指南，例如清華大學2025年頒布的《人工智能教育應用指導原則》。國際出版倫理委員會（COPE）等行業組織則需搭建協調平臺，盡量減少政策的碎片化。

第二，學術評價的焦點要回歸研究的學術貢獻與原創性。檢測工具只適合作為輔助參考，需要建立國家標準、技術檢測與專家判斷相結合的評價體系。編輯和審稿人應當重點考察研究的問題意識、證據質量和原創貢獻，而不是追問生產工具。學科之間應有側重，人文學科重概念創新，理工醫學重數據真實與可重復性。同時，要營造讓研究者敢于主動披露AI使用的信任環境，讓披露成為一種負責任的主動行為。

第三，硬規范的迭代與AI素養的培育要同步推進。在規范層面，可以主動運用實驗方法檢驗規則的實際效果，政策中內置定期修訂的節點，鼓勵機構根據自身情況差異化探索。在AI素養層面，治理重心需要從封堵延伸到賦能，重點培育科研人員的AI勝任力，包括批判性思維、利用AI開展專業研究的能力以及倫理判斷。規范迭代的周期相對較短，素養培育則需要長線投入，二者必須協同推進，不可偏廢。

生成式AI對科研誠信的挑戰，本身就是一個開放性的治理命題。它沒有標準答案，只能在持續探索中達到更好的狀態。社會實驗的治理思路，核心在于將技術的不確定性轉化為一個可以不斷修正的實踐框架。它追求的是一套具備學習能力的治理機制，讓學術共同體在與AI共處的過程中逐漸摸索出邊界與分寸。這場探索關乎規則的建設，也關乎智能時代人類創造力與科研誠信內涵的持續反思。

作者簡介：

李正風，清華大學社會科學學院教授。研究方向為科技與社會、科技倫理、科技政策;

王碩，清華大學馬克思主義學院助理研究員。研究方向為科技倫理教育與治理、人工智能與當代知識生產。

通信作者：

王碩，郵箱地址：jssqsure@163.com。

項目資助：

國家社會科學基金重大項目“深入推進科技體制改革與完善國家科技治理體系研究”（21ZDA017）；國家自然科學基金項目“主要國家科研資助機構改革動向與資助布局研究”（L2524003）；中國科協創新戰略研究院項目“中國科技工作者發展權益的社會學理論問題研究”（2026-RCS-1）。