王大可、周凱琳：表面擬真性與功能性信任：高校學生學術寫作中AI幻覺的識別機制研究

論壇

FORUM

表面擬真性與功能性信任：高校學生學術寫作中AI幻覺的識別機制研究

王大可1,2 周凱琳1

(1上海交通大學媒體與傳播學院;

2上海交通大學智能傳播研究院)

生成式人工智能正以前所未有的速度滲透到高校學生的學習與學術寫作過程中，從文獻檢索到論文撰寫，從數據分析到語言潤色，AI已成為知識生產中不可忽視的參與者。然而，效率提升的背后潛藏著新的風險，AI幻覺便是其中之一。它指的是AI生成貌似合理連貫，但與用戶意圖、客觀事實或推理邏輯不一致的內容。這一現象并非偶發的技術缺陷，而是源于大語言模型基于概率分布而非事實驗證的底層運行機制。高校學生作為AI寫作工具的高頻使用者，同時正處于學術規范養成期，領域知識相對有限，面臨更高的被誤導風險。現有研究多從技術層面探討幻覺的識別與治理，對用戶在真實情境中的識別過程缺乏系統考察。本研究正是從用戶視角切入，試圖回答三個核心問題。首先，AI幻覺在學生寫作任務中主要分布在哪些環節，呈現怎樣的特征。其次，用戶依靠哪些線索發現幻覺，采取了哪些驗證策略，又受到哪些情境因素的制約。最后，面對AI的不確定性，用戶如何調整信任，形成了哪些人機協作模式。

為回答上述問題，研究采用事件導向型日記法，要求8名來自新聞傳播學、經濟學、心理學、工程學等不同學科的本科生與研究生在真實學術任務中即時記錄其遭遇的AI幻覺事件，最終獲得56個有效事件記錄。數據收集歷時約7周，采用反思性主題分析法進行分析。

研究發現，AI幻覺集中分布于對精確度要求較高的任務，其中文獻引用類占39.3%，數據處理類占25%，格式結構類與代碼圖像類各占17.9%。其具體表現包括完整虛構文獻條目、微妙篡改作者信息、虛構權威數據來源、上下文記憶失效、代碼越改越錯等多種形態。AI在面對信息缺失時表現出明顯的“填補”傾向，傾向于生成看似合理的答案而非承認未知。

研究進一步將AI幻覺的“表面擬真性”拆解為格式、數據、來源、邏輯、語言五個維度，這五個維度共同構成了AI幻覺的“可信外殼”。用戶主要依靠形式異常作為初級警報，以內容矛盾與邏輯斷裂作為深層防線，并通過數據庫查證、原文對照、交叉AI驗證、教師確認等多元策略加以核實。然而，識別效能受到知識盲區、時間壓力、認知疲勞與任務重要性等情境因素的系統性制約。

面對AI輸出的不確定性，用戶并未形成對AI的整體性信任或不信任，而是發展出基于任務特征的“功能性信任”模式。該模式具有任務特異性、情境敏感性與動態適應性三個核心特征。在框架生成與創意激發類任務中信任度較高，在語言潤色與格式整理類任務中保持中等信任，在事實核查與數據驗證類任務中信任度最低。用戶由此形成分工協作、迭代優化、信任但驗證三種典型協作策略，將驗證從信任缺失的標志轉化為有效協作的結構性要素。值得注意的是，信任下降并不必然導致使用減少，而是轉化為更審慎的使用方式，這一發現修正了“信任下降必然導致使用減少”的線性假設。

本研究的理論創新主要體現在三個層面。其一，從用戶視角出發提出“表面擬真性”概念并完成五維度拆解，揭示了AI幻覺最具欺騙性的特征恰恰在于其看似可靠的外觀，傳統基于可靠性外觀建立信任的機制在此失效。其二，提出“功能性信任”框架，超越了將信任簡單二分為“信任”或“不信任”的傳統觀點，揭示用戶已將整體性信任評估轉變為差異化配置。其三，揭示驗證行為的意義重構，驗證不再是信任缺失的標志，而是內化為人機協作的結構性要素。

研究的實踐啟示亦體現在三個層面。在技術層面，AI系統應增強不確定性表達，以置信度評分、來源標注等方式取代統一的權威姿態。在教育層面，高校應將AI幻覺識別納入學術寫作課程，重點教授基于形式線索的判斷方法與差異化信任意識。在規范層面，學術共同體可建立AI輔助寫作的透明化標注機制，要求作者明確披露AI使用范圍并聲明已進行人工核實。

總體而言，本研究為理解AI時代的知識生產與人機信任關系提供了一個初步的經驗視角。面對AI的錯誤風險，用戶并非簡單地拒用或放任，而是在差異化的信任配置與常態化的驗證實踐中，主動重構著自身與AI的協作關系。

作者簡介

王大可，上海交通大學媒體與傳播學院副研究員、上海交通大學智能傳播研究院研究員。研究方向為智能傳播、科技傳播;

周凱琳，上海交通大學媒體與傳播學院碩士研究生。研究方向為智能傳播、科技傳播。

項目資助

國家社科基金重大項目“5G時代新聞傳播的格局變遷與研究范式轉型”（21&ZD325）；上海市哲學社會科學規劃一般項目“人工智能傳播的‘雙智能’共振風險防范與‘人機共生’新生態規制研究”（2023BXW002）。