新規來了！中國AI治理邁入“標識”時代

近年來，生成式人工智能、深度合成等新技術快速發展，為人們的生產生活帶來極大便利，但同時也伴生出虛假信息傳播、惡意內容生成等諸多新問題。為促進人工智能健康發展，規范人工智能生成合成內容標識，國家互聯網信息辦公室等四部門制定了《人工智能生成合成內容標識辦法》（以下簡稱《辦法》），并于2025年9月1日起施行。

這部新規的施行，對于當前虛假消息傳播、惡意內容生成等AI領域亂象的治理，有哪些現實意義和價值？未來應如何壓實平臺主體責任，確保《辦法》的相關要求能夠得到有效落實？在推動新規實施過程中，又可以通過哪些措施不斷提升用戶合規意識？日前，法治網研究院邀請南開大學法學院副院長陳兵、中國政法大學數據法治研究院教授王立梅、中國人民大學人工智能治理研究院研究員黃尹旭、《法治日報》律師專家庫成員張云燕，圍繞相關話題展開一場深度對談。

01

法治網研究院：9月1日，人工智能領域這部備受矚目的《辦法》已正式施行，您如何看待這一新規的作用和價值？

陳兵：近年來，人工智能生成合成內容逼真程度不斷提高，虛假消息傳播、惡意內容生成等風險日益凸顯，嚴重削弱了民眾對網絡傳播內容的信任根基。

我認為，《辦法》的出臺能夠有效遏制AI內容亂象。從保障信息安全角度看，《標識辦法》通過明確要求服務提供者對生成合成內容添加顯式和隱式標識，使內容具備可追溯性，從源頭遏制虛假信息的傳播。

從技術進步以及產業發展的角度看，它促進了人工智能技術的規范化發展，提升了技術的透明度，有助于規范相關服務提供者、內容傳播服務提供者以及用戶在AI內容生成、傳播過程中的各類行為。

從統籌發展與安全的角度看，在防范技術濫用風險的同時，為產業創新預留空間，有助于推動人工智能健康有序發展。最終，《辦法》能夠促進人工智能技術的透明度與可信度的提升，確保人工智能實現堅持高質量發展與高水平安全良性互動。

黃尹旭：《辦法》構建了客觀判斷標準，為平臺治理提供了具象化參照，明確了生成合成內容的界定、標識方式及未標識后果；同時，其也明確了責任承擔，劃分了用戶主動標識義務與平臺審核監督義務，構建了清晰的責任鏈條；此外，它還提升了規則公開性與可預期性，遏制了平臺權力濫用風險，明確規范了平臺行權邊界。

可以說，《辦法》體現了人工智能治理從以往的被動響應，邁向了主動建構的新階段，既著眼于防范技術風險，更可經由“標識”這一新型法律工具，推進變革數字時代的法律關系、責任倫理與創新生態，是對技術向善理念的制度化詮釋。

02

法治網研究院：我們注意到，針對《辦法》相關要求，騰訊、抖音、B站、快手、DeepSeek等眾多平臺均在第一時間予以響應，紛紛出臺了各自的細化規則。對于未來如何進一步壓實平臺主體責任，您有哪些建議？

王立梅：我認為，需要以平衡理念推動平臺主體責任落實。一方面，平臺應加強技術能力，開發AI生成內容識別技術，完善標識技術，同時確保標識可識別和可溯源。對未按要求標識的內容提前篩查，對已發布的違規內容及時下架，落實事前管控和事后整改雙重責任。

另一方面，也應明確“平臺權力”的邊界，要求對AI內容的識別邏輯和處置措施與信息內容治理目的相符、手段適當，防止AI內容識別異化為流量操控的工具。

陳兵：一些平臺針對上述《辦法》出臺了細化規則，還紛紛推出AI內容標識功能，幫助平臺用戶更快捷方便的對AI合成內容進行甄別。但是，隨著AI技術的發展，平臺想要落實主體責任的挑戰依然嚴峻。

首先，平臺應當持續加強技術能力建設，不斷提升對生成合成內容標識的檢測、識別和管理技術能力。

其次，建立投訴舉報與反饋機制，鼓勵用戶對涉嫌未按規定標識的生成合成內容進行投訴舉報，對于有問題的內容及時進行處理。

再次，可以加強平臺間的聯動，推動平臺間技術與經驗共享，形成治理合力，避免“各自為戰”導致的監管漏洞。

最后，平臺還需推動用戶教育與透明化，定期發布平臺治理報告，公開違規案例處置結果，接受社會監督。

張云燕：《辦法》實施后，平臺的責任更明確了，但要真正壓實，確實還需要進一步細化。第一，不同平臺定位不同，比如社交、視頻、模型提供方，不能一刀切，而要分級分類，明確各自的責任。

第二，平臺要提高可操作性，不能只滿足于“貼標簽”，而是要形成事前提示、事中攔截、事后追溯的完整機制。

第三，要有跨平臺協同，虛假信息常常跨平臺傳播，單靠一家難以徹底管住。未來可以通過行業聯盟或第三方數據庫，推動標識規則互認和信息共享。

總體上，我更傾向于把平臺理解為“風險把關人”，只有在技術、合規和協同三個方面同時發力，主體責任才能真正落地。

03

法治網研究院：《辦法》提出，用戶使用網絡信息內容傳播服務發布生成合成內容的，應當主動聲明并使用服務提供者提供的標識功能進行標識。這在具體實施過程中，需要用戶也積極參與進來。您認為，可以通過哪些措施不斷提升用戶合規意識和意愿？

黃尹旭：可以強化認知教育以傳遞標識價值，在用戶首次使用相關工具或平臺時，設置短圖文、15秒短視頻進行前置化規則引導。

可以明確不同類型 AIGC（如文本、圖像、視頻）的標識標準與方式，幫助用戶清晰知曉義務。例如，規定文本類AIGC需在開頭顯著位置以特定字體、字號標明“AI生成”。

可以設立合規指引機制，編寫通俗易懂的合規指南，經由線上線下多渠道向用戶普及，降低用戶理解法規的成本。

同時，對主動合規標識的用戶，平臺可采取流量扶持、專項推薦等激勵措施。

王立梅：未來需要打好“便利+約束+激勵”的組合拳，來提升用戶合規意識和意愿。一是以便利化功能降低合規門檻。平臺應在內容上傳渠道中將標識功能前置化、默認化，自動核驗隱性標識并提供適當的顯性標識，使合規成為一鍵式操作。

二是建立懲戒機制明確違規代價。通過風險提示、案例釋明等方式，讓用戶知悉未盡標識義務、使用不正當標識手段的平臺處罰措施與責任承擔風險。

三是完善正向激勵機制以加強合規動力。鼓勵平臺通過可信用戶認證等方式激勵用戶合規標識，通過積分、聲譽、流量等收益促進合規。

張云燕：提升用戶的合規意識和意愿，核心是降低成本、提高收益。第一，要讓用戶標識更方便。比如平臺提供一鍵標注、自動識別的功能，讓用戶幾乎不需要額外操作。

第二，要讓用戶清楚后果。平臺可以通過彈窗提示、合規指引，告訴用戶如果不標注，可能會面臨的處罰或限流。

第三，可以正向激勵。比如對主動合規的用戶，平臺在推薦、流量上給予一定支持，讓大家感覺標注不吃虧。

第四，還要加大宣傳，讓更多用戶意識到標識不是形式，而是對網絡環境的一種保護。

我認為，只有這樣結合便利性、約束力和激勵措施，用戶的合規意識和意愿才會真正提高。

專家簡介

陳兵

南開大學法學院副院長、教授、博士生導師，中國新一代人工智能發展戰略研究院特約研究員

王立梅

中國政法大學數據法治研究院教授，中國法學會網絡與信息法學研究會副會長

黃尹旭

中國人民大學法學院副教授，中國人民大學人工智能治理研究院研究員

張云燕

《法治日報》律師專家庫成員，北京金誠同達律師事務所高級合伙人、管理合伙人

來源：法治網