資訊| Nat. Nanotechnol.：AI生成的納米材料圖像正在顛覆科學研究

編者語：

“ChatGPT等AI確實可以生成非常好看的圖片，包括尺寸分布、結構重疊、背景噪聲，甚至破損結構等細節。AI是一把雙刃劍，監管很重要！！！”

01

背景介紹

從圖像處理到AI生成的學術誠信挑戰

過去，學術不端行為主要局限于圖像的裁剪和拼接，但生成式人工智能的爆發式發展徹底改變了這一局面。現在，只需簡單的文本提示，AI就能在幾分鐘內生成與真實顯微圖像幾乎無法區分的偽造圖像。更令人擔憂的是，即使是訓練有素的專家也難以分辨真偽——這項研究通過對250名科學家的調查顯示，在多數情況下，專家們辨別AI偽造圖像的準確率與隨機猜測無異。這種技術能力的飛躍不僅威脅著單個研究的可靠性，更可能動搖整個納米科學領域的誠信基礎。當AI能夠輕易生成"理想"的實驗結果時，研究者可能選擇走捷徑，避免繁瑣但必要的實驗驗證過程。我們正站在一個關鍵的十字路口：要么被動接受誠信體系的侵蝕，要么主動構建新的科研防護體系。

02

核心問題

AI生成圖像的逼真程度與檢測挑戰

1. AI生成技術的驚人進展

研究團隊使用getimg.ai平臺，僅用不到一小時訓練時間，就成功生成了與真實實驗圖像高度相似的偽造圖像。圖1展示了六組真實與AI生成圖像的對比，涵蓋了AFM、STEM和TEM等多種顯微技術。

原子力顯微鏡(AFM)圖像：圖1a展示的Fe3+-單寧酸膠囊AFM拓撲圖像，AI生成的版本完美復現了表面紋理和高度對比，甚至連背景噪聲都模仿得惟妙惟肖。圖1b的納米顆粒圖像中，AI不僅準確捕捉了顆粒的尺寸分布，還重現了基底的特性。

電子顯微鏡圖像：圖1c的TiO2顆粒暗場STEM圖像中，AI生成的版本復現了復雜的 spines 結構；圖1d的手性金納米棒圖像中，AI甚至生成了看似合理的電子斷層掃描重建插圖。

2.專家辨別能力的嚴峻測試

研究團隊設計了雙盲實驗，向250名科學家展示隨機混合的真實和AI生成圖像。結果令人震驚：

對于多數圖像對(a、b、c、f)，專家的判斷與隨機猜測無顯著差異

僅在圖像d和e中，專家表現出一定的辨別能力，主要是因為對生成圖像更傾向于選擇"不確定"。整體而言，即使是領域專家也無法可靠區分真實與AI生成的納米材料圖像。這種辨別困難源于AI能夠完美模仿實驗圖像的關鍵特征：尺寸分布、結構重疊、背景噪聲，甚至破損結構等細節。

圖1.真實實驗圖像（頂行）與根據真實圖像生成的 AI 偽造圖像（中間行）的比較

3.全新納米結構的“無中生有”

更令人擔憂的是，AI還能創造完全不存在的納米結構。圖2展示了通過ChatGPT生成的“納米奇多”等虛構材料，這些圖像在幾分鐘內就能生成，且具有高度的科學合理性。

兩種風險維度：

新材料報告風險：如果作者報告一種全新材料(如納米奇多)，科學界通過重復合成實驗可能較快發現欺詐。

典型材料偽造風險：當納米材料不是論文新穎性的焦點時，作者可能使用基于文獻數據生成的偽造圖像來避免徹底的表征，這種欺詐更難檢測

4.現有檢測體系的不足

傳統的學術不端檢測方法(同行評審、科學偵探等)在面對AI生成內容時已顯得力不從心。盡管Science系列期刊已開始使用Proof等AI輔助圖像分析工具，但這些工具仍存在局限：

倫理考量：需要確保公平性和透明度

人為監督：AI檢測出的可疑案例仍需人工審查

技術限制：現有工具主要針對傳統圖像處理操作，對AI生成內容的檢測能力有限。

圖2. 通過使用ChatGPT從文本提示中生成純 AI 圖像

03

解決方案

構建多維防護體系

1.原始數據共享的標準化

研究團隊提出了最小化儀器文件安排(MAIF)原則(圖3)，建議為每篇論文創建獨立文件夾，每個圖表都有對應的子文件夾存放原始儀器文件。這種標準化結構包括：

主要儀器文件：存儲與圖表直接相關的原始數據

附加數據文件夾：存放非圖表數據

壓縮發布：鼓勵將dMAIF目錄作為補充信息或在Zenodo、Open Science Framework等平臺發布

2.技術層面的創新應對

AI檢測AI：開發專門檢測AI生成圖像的算法工具，如Science期刊采用的Proof系統。這些工具應在投稿前后進行檢查，但必須確保：

人類監督的最終決定權

對作者的公平對待和透明溝通

符合出版倫理委員會(COPE)的指導原則

原始數據驗證：由于生成原始儀器文件對AI來說更加困難(缺乏訓練數據和專門興趣)，要求作者提供原始數據文件是有效的防護措施。但挑戰在于：

專業軟件壁壘：原始文件通常需要特定軟件打開

儀器依賴性：數據讀取往往依賴測量時使用的儀器

解決方案：開發能夠讀取各種原始數據文件的通用軟件

圖3. MAIF存儲原理

3.科研生態的系統性改革

教育訓練：將研究倫理教育設為必修內容，特別是針對AI技術使用的倫理規范。首席研究員(PI)應帶頭與團隊成員討論這些議題，樹立從上到下的榜樣。

會議研討：在學術會議中專門設置針對AI風險的討論環節，而不僅僅是關注AI工具的益處。應持續與AI專家合作開發安全防護協議。

期刊政策：期刊應當要求結構化原始儀器文件數據集(如MAIF數據)的提供作為發表條件，而不僅僅是鼓勵數據沉積。

04

總結

集體行動守護科學誠信

有效的解決方案需要多方協作：研究者需要接受倫理培訓并采納標準化的數據管理實踐；期刊應當實施更嚴格的數據驗證要求；技術開發者需要創建更好的檢測工具；學術社區則需要建立持續對話機制來應對快速發展的技術挑戰。

核心在于認識到：在當今時代，科學工作不僅包括產生新結果，還包括維護和驗證科學實踐本身。確保發表數據的完整性是每個人的責任，只有通過集體努力，我們才能安全渡過前方的渾水。

文獻信息：

Nadiia Davydiuk, Elisha Krieg, Jens Gaitzsch, Patrick M. McCall, Günter K. Auernhammer, Mu Yang, Joseph B. Tracy, Sara Bals, Wolfgang J. Parak, Nicholas A. Kotov, Luis M. Liz-Marzán, Andreas Fery, Matthew Faria & Quinn A. Besford, Nature Nanotechnology, 2025, https://doi.org/10.1038/s41565-025-02009-9

聲明：

1. 版權：推送內容僅供學習交流分享使用，無任何商業用途，如有侵權，請聯系后臺刪除或修改，感謝支持。

2. 投稿：非常歡迎各位老師在公眾號上介紹課題組前沿或經典研究成果！后臺或郵箱聯系即可！