警惕“數字泔水”侵蝕學術凈土

AIGC低質內容在網絡空間蔓延

警惕“數字泔水”侵蝕學術凈土

近日，一則關于國際學術季刊曝光的學術不端事件，為學術界敲響了警鐘。一篇發表于該刊物的博士論文被發現存在嚴重學術不端行為，在其列出的61條參考文獻中，竟有24條系由人工智能憑空捏造的“幽靈文獻”。雖然部分引文標注了真實的來源期刊信息，但在相應期數中卻查無實據。

“這是‘AI垃圾’在學術領域最惡劣、最危險的表現之一。”浙江大學哲學學院教授李恒威在接受本報記者采訪時表示，所謂“幽靈文獻”，是指那些在學術成果中被正式引用并標注為信息來源，但實際無法查證、根本不存在，或與引用內容嚴重不符的虛假資料。它們如同學術界的“幽靈”，表面上構建起論證的“支撐”，實則空無一物，不僅可能誤導研究方向，更嚴重破壞了學術共同體賴以維系的信任基石。

當生成式人工智能（AIGC）的強大生產力被濫用，其產出的內容空洞、邏輯混亂、價值缺位的數字產物，正在引發社會各界尤其是學術界的深切憂慮。如何有效識別、遏制并治理“AI垃圾”，守護清朗的數字生態與學術凈土，已成為人工智能時代必須正視的緊迫課題。

技術濫用毀掉深度思考能力

“幽靈文獻”事件并非孤例。記者調查發現，從社交平臺上空洞無物的“廢話文學”，到短視頻里荒誕離奇的惡搞內容；從營銷號批量產出的模板化文章，到以假亂真的深度偽造人文科普——一種被網民形象地稱為“AI垃圾”或“數字泔水”的低質量信息流，正以驚人的速度在互聯網空間蔓延。而這股濁流已悄然突破公共信息領域的邊界，開始滲透并侵蝕嚴謹的學術生態。

在AI技術浪潮下，“幽靈文獻”暴露了部分研究者對技術底線的失守。正如中國社會科學院新聞與傳播研究所網絡信息與智能傳播研究室副主任楊斌艷所觀察到的，當前一個突出問題是，大量缺乏約束和引導的“試探性使用”正在泛濫。人們出于好奇或測試目的，向AI輸入各種非常規甚至刻意設計的指令，導致其輸出大量邏輯混亂、脫離現實的荒誕內容。當這些“玩鬧”性質的內容被不當利用，甚至移植到嚴肅的學術生產領域時，便構成了對學術精神的直接挑戰。

“用AI得來的輕松快樂，最終可能會毀掉我們深度思考的能力。”中國人民大學哲學院教授劉永謀對此深感憂慮。他將依賴AI替代費力思考的行為稱為“認知卸載”。在他看來，思考本身即是學術與求知的核心價值所在。如果任由AI代勞核心的思考環節，長期“不費腦子”，人類最終可能會喪失寶貴的獨立思考能力。當論文發表淪為形式空轉，其探索真理、推動文明進步的根本意義也將蕩然無存。

“AI垃圾”何以泛濫

“AI垃圾”肆虐并非偶然，是多重因素交織下的必然產物。北京師范大學心理學部教授劉超從技術與社會心理層面剖析了成因。在他看來，大語言模型的普及使得內容生產成本降低，原本需要創造性投入的活動，正異化為機械的“流水線工作”。更深層的危機在于，AI模型本身依賴于互聯網海量數據進行訓練，而當網絡中已充斥大量低質AI內容時，新一代模型再抓取這些“垃圾”作為語料，便形成了一個“用垃圾喂出更多垃圾”的惡性循環，導致信息環境的質量每況愈下。

中國科學院計算技術研究所研究員陳薇從技術特征上揭示了“AI垃圾”的隱匿性。她表示，這類內容往往呈現出“形式完整，實質空洞”的特點。它們擁有虛假的專業感和極高的流暢度，慣于講述“正確的廢話”。其偽裝手段多樣，例如，通過多語種互譯、同義詞改寫、半人工潤色等手段來掩蓋AI生成痕跡，甚至利用編造虛假文獻、一本正經地論述謬誤等方式來制造“原創”假象。

識別這些“數字泔水”，正成為數字時代公眾必備的素養。楊斌艷提醒，對于那些嚴重違背常識邏輯、明顯不符合現實情況的內容，應保持高度警惕。同時，要提防以各種“變臉”形式隱匿出現、實則推銷同一話術的內容。劉超則建議關注內容的生成動機：“是意在引導讀者站隊、轉發、加群還是轉賬？是在單純煽動情緒，還是引發深度思考？”這些追問都有助于剝開AI生成內容的偽裝。

學者們呼吁，公眾應主動培養對“模板化表達”和“過度完美敘事”的敏感度，并結合交叉驗證、溯源查證等方法，提升自身的辨識能力。

構建多維治理格局

面對洶涌而來的“AI垃圾”，單一的治理手段顯然難以應對。多位學者在接受本報記者采訪時都表示，必須構建一個覆蓋技術、制度與人文教育的全流程、多維度的防控體系。

從技術層面筑起“防火墻”是首要任務。陳薇提出兩點具體建議：一是大力推廣數字水印與內容指紋技術，實現對AI生成內容從生產到傳播的全鏈條溯源，讓每一份“數字產物”都有跡可循；二是研發高精度的AI生成內容檢測算法，并針對科教領域優化學術工作流，建立“引用可點擊、證據可復算”的自動化驗證機制，確保研究數據和結論的真實性與可復現性。

李恒威將AI比作承載人類文明的“忒修斯之船”。他認為，治理“AI垃圾”需秉持“在航行中修理船只”的動態思維。首先，在技術設計初期即“造船階段”，就應嵌入可追溯、可解釋的機制，并建立明確的AI訓練與生成內容的質量規范和倫理標準。其次，在技術運行過程中即“日常維護”階段，需要建立功能強大的事實核查、深度偽造檢測及質量評估體系，并強化專業審核力量。最后，在價值導向層面，必須錨定AI服務于求真、向善、創造的核心目標，加強人文教育與公眾數字素養，從根本上提升社會對低質信息的“免疫力”。

平臺作為信息傳播的關鍵樞紐，同樣責無旁貸。楊斌艷提出，網絡平臺應積極建立“AI垃圾”一鍵舉報機制，并構建共享錯誤信息的阻隔數據庫，讓廣大網民成為治理環節中的活躍力量，形成群防群治的局面。

學術界應自覺守護知識標準

在這場抵制“AI垃圾”的戰役中，學術界不能成為被動的研究者，應成為主動的守護者和引領者。守護知識生產與認知標準，是學術界責無旁貸的使命。

劉永謀強調，人文學界尤其應發揮價值引領作用。通過積極的學術發聲，倡導優質內容生產，抵制“AI垃圾”的泛濫。同時，要致力于培育理性、審慎、有深度的網絡文化與數字倫理，推動形成尊重原創、崇尚思辨、拒絕信息快餐的網絡道德共識，為清朗的數字生態注入不可或缺的人文精神與價值定力。

楊斌艷認為，學術界應將學者的集體智慧轉化為治理力量，通過聚合專家們的碎片化時間，共同參與構建識別“AI垃圾”的“防火墻”。學者更應積極參與到大模型的“有效投喂”和持續優化訓練中去，為糾正“AI幻覺”充當“守門人”，為優質內容的生成貢獻高質量的知識養料。

劉超建議，學術界應以開放課程、科普文章等多元化形式，提升大眾對AI生成低質信息的鑒別能力。“學術界在整治‘AI垃圾’中的核心使命，不是與技術進行簡單的對抗，而是致力于重建可信知識的生產、驗證與傳播秩序。”陳薇進一步提出，鑒于AI對教育領域的深遠影響，應推動教育回歸思維訓練與價值塑造的本質，弱化對機械記憶的考核，強化邏輯思辨能力的培養，鼓勵那些雖不完美卻真實、獨特的表達，培育人們對具有靈魂與情感深度內容的審美判斷力。

李恒威認為，我們或許永遠無法抵達一個AI被“完全修復”、信息環境“毫無瑕疵”的靜止終點。技術將持續迭代，新的問題會隨之滋生，新的“AI垃圾”也會以新的形態不斷涌現。這要求我們具備一種與時俱進的治理智慧——在技術的發展與治理的完善之間，保持動態的平衡，在航行中不斷修繕我們這艘承載著人類文明與認知希望的“忒修斯之船”。

中國社會科學報記者 段丹潔

來源：中國社會科學報

新媒體編輯：程可心

如需交流可聯系我們