夏偉 秦雨田 | 加快形成人工智能立法的中國方案

來源 | 民主與法制時報

作者 | 夏偉 中國政法大學(xué)刑事司法學(xué)院副教授

北大法律信息網(wǎng)簽約作者

秦雨田 中國政法大學(xué)刑事司法學(xué)院博士研究生

黨的二十屆四中全會審議通過的《中共中央關(guān)于制定國民經(jīng)濟和社會發(fā)展第十五個五年規(guī)劃的建議》（以下簡稱《建議》）強調(diào)，“加強人工智能治理，完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準則”。作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的技術(shù)，人工智能在全方位賦能千行百業(yè)的同時，也面臨價值失序、利用失當、運行失范等法律風(fēng)險，如一些不法分子利用人工智能實施非法獲取個人信息、詐騙、侵犯知識產(chǎn)權(quán)、侵犯商業(yè)秘密等違法犯罪活動。為了有效促進人工智能技術(shù)高質(zhì)量發(fā)展、保護個人和企業(yè)的合法權(quán)利，應(yīng)加快形成人工智能立法的中國方案。

人工智能立法的模式選擇

世界各國人工智能立法主要有兩種模式，即統(tǒng)一立法模式與分散立法模式。統(tǒng)一立法模式的代表為歐盟，其于2024年制定的《人工智能法案》是全球首部“規(guī)范集中、體系統(tǒng)一”的綜合性人工智能立法。有的國家人工智能立法采取分散立法模式，相關(guān)規(guī)定分散于各級別、各部門的立法之中。《建議》提出，全面實施“人工智能+”行動，以人工智能引領(lǐng)科研范式變革。在此背景下，采取統(tǒng)一立法模式規(guī)范人工智能發(fā)展可謂正當其時。

當前，我國人工智能領(lǐng)域的立法散見于《中華人民共和國民法典》《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》，一些行政法規(guī)與部門規(guī)章中，如《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《汽車數(shù)據(jù)安全管理若干規(guī)定（試行）》，還有一些地方性立法中，如《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》等。這些法律、行政法規(guī)、部門規(guī)章、地方性立法種類繁多、內(nèi)容分散、體系復(fù)雜。

分散立法模式的主要任務(wù)是“先試先行”，它具有試驗性特征，通過短期試驗的方式檢驗制度成效，等待時機成熟之后可轉(zhuǎn)向統(tǒng)一模式。近年來，我國通過分散性立法的“先試先行”，已經(jīng)探索出諸多適合我國人工智能發(fā)展與治理的關(guān)鍵制度，如人工智能訓(xùn)練數(shù)據(jù)安全保護、部分生成式人工智能內(nèi)容納入知識產(chǎn)權(quán)保護等。不過，分散性立法模式只能作為臨時性的權(quán)宜之計，從長遠來看，其存在三個根本性問題：一是重復(fù)性立法。在人工智能領(lǐng)域，下位法對上位法的復(fù)刻、同級立法規(guī)范的同質(zhì)化等問題愈發(fā)普遍，有違立法的經(jīng)濟性。二是沖突性立法。由于缺乏統(tǒng)一的上位法，不同行業(yè)、不同地區(qū)在人工智能立法時可能有沖突，有損立法的權(quán)威性。三是象征性立法。在人工智能發(fā)展早期，我國部分領(lǐng)域制定的人工智能立法規(guī)范大多僅具有象征性、宣示性，有礙立法的實效性。

未來，我國在人工智能領(lǐng)域應(yīng)采取統(tǒng)一立法模式，并通過“三步走”策略融入已有的立法成果。第一步清理，清理人工智能領(lǐng)域重復(fù)性、沖突性、象征性立法；第二步整合，將人工智能領(lǐng)域已經(jīng)通過“先試先行”審查的特色法律制度整合進立法；第三步建構(gòu)，立足人工智能領(lǐng)域的中國問題、中國實踐與中國話語，制定“人工智能法”。

人工智能立法的基本原則

黨的二十屆四中全會圍繞人工智能治理體系的完善作了重要戰(zhàn)略部署，強調(diào)要“健全數(shù)據(jù)要素基礎(chǔ)制度”“加強人工智能同產(chǎn)業(yè)發(fā)展、文化建設(shè)、民生保障、社會治理相結(jié)合”。以良法保障“人工智能+”行動的全面實施，關(guān)鍵在于科學(xué)確立人工智能立法的基本原則。

第一，確立風(fēng)險可控原則。人工智能治理的首要任務(wù)在于平衡安全和發(fā)展的關(guān)系，要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準則，構(gòu)建技術(shù)監(jiān)測、風(fēng)險預(yù)警、應(yīng)急響應(yīng)體系，確保人工智能安全、可靠、可控。人工智能的迭代更新既不斷驅(qū)動經(jīng)濟社會快速發(fā)展，也系統(tǒng)性放大社會治理風(fēng)險，數(shù)據(jù)安全、財產(chǎn)安全、商業(yè)秘密安全等，如何有效管控人工智能風(fēng)險亟待立法予以回應(yīng)。風(fēng)險可控原則嵌入人工智能立法，要求立法者根據(jù)人工智能的風(fēng)險類型與等級建立分類分級監(jiān)管機制，根據(jù)風(fēng)險等級從高到低的變化監(jiān)管力度依次遞減。此種基于風(fēng)險可控的分類分級監(jiān)管機制在我國立法中已有初步體現(xiàn)，例如，《生成式人工智能服務(wù)管理暫行辦法》第三條規(guī)定，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。

如何對不同人工智能風(fēng)險進行分類分級監(jiān)管？筆者認為，我國人工智能立法應(yīng)踐行風(fēng)險可控原則，同步考慮利益分類（公共利益與個人利益）與風(fēng)險分級（禁止、高風(fēng)險、中風(fēng)險、低風(fēng)險），通過分類分級制度的有效實施引導(dǎo)人工智能技術(shù)向善。由于個人利益具有可處分性與可衡量性，而公共利益缺乏可處分性與可衡量性，因此，對公共利益風(fēng)險的預(yù)防性監(jiān)管應(yīng)嚴格。其中，禁止性人工智能活動由于風(fēng)險級別過高，無論涉及公共利益還是個人利益，一律不得開發(fā)和應(yīng)用；高風(fēng)險人工智能活動通常涉及公共利益，原則上也應(yīng)被禁止，但出于保護國家利益或更大公共利益的除外。

第二，價值對齊原則。人工智能治理應(yīng)當遵循“以人為本”理念，以增進人類共同福祉為目標。它要求人工智能的設(shè)計、決策應(yīng)當與人類的價值觀、利益保護相一致，將“以人為本”作為可信人工智能構(gòu)建的技術(shù)基準。

價值對齊原則的實現(xiàn)分為兩個層次：一是人工智能與人類現(xiàn)實價值對齊，即以人類現(xiàn)實利益為依歸設(shè)計算法、執(zhí)行指令、作出決策。此種意義上的人工智能風(fēng)險主要來源于算法和訓(xùn)練數(shù)據(jù)，屬于可預(yù)期的風(fēng)險范疇。例如，為了防止人工智能算法歧視、濫用人工智能技術(shù)偽造信息數(shù)據(jù)等，立法要求對算法公平性和訓(xùn)練數(shù)據(jù)真實性進行有效干預(yù)以實現(xiàn)價值對齊。二是人工智能與人類遠期價值對齊，這屬于不可預(yù)期的風(fēng)險范疇。無論人工智能系統(tǒng)如何精密設(shè)計與決策，都可能產(chǎn)生難以預(yù)期的風(fēng)險。這就要求人工智能立法確立遠端風(fēng)險預(yù)防機制，及時阻斷遠端風(fēng)險現(xiàn)實化。

第三，穿透式監(jiān)管原則。人工智能決策存在三大數(shù)字屏障，即算法技術(shù)“黑箱”、平臺優(yōu)勢權(quán)力及海量數(shù)據(jù)決策。其中，算法技術(shù)“黑箱”限制監(jiān)管者的認知能力，平臺優(yōu)勢權(quán)力抑制監(jiān)管過程的有效性，海量數(shù)據(jù)決策可能掩藏不法行為，三者疊加可能導(dǎo)致監(jiān)管低效乃至無效。

為有效監(jiān)管和預(yù)防人工智能風(fēng)險，應(yīng)當確立穿透式監(jiān)管原則。具體而言：一是通過確立算法高度透明義務(wù)以穿透算法技術(shù)“黑箱”，防止敏感數(shù)據(jù)被算法隱秘地濫用；二是通過確立平臺義務(wù)清單與如實報告制度以穿透平臺優(yōu)勢權(quán)利，防止平臺以利益為導(dǎo)向的濫用權(quán)利；三是通過推行可用不可見機制阻斷海量數(shù)據(jù)決策風(fēng)險，防止監(jiān)管力量被分散和被稀釋。

推進人工智能立法的重點方向

隨著“先試先行”立法的任務(wù)逐步完成，未來，我國要明確人工智能立法的思路與體例結(jié)構(gòu)，并將實踐證明可行的重點制度轉(zhuǎn)化為立法規(guī)范，實現(xiàn)從分散性立法到系統(tǒng)性立法的質(zhì)的躍遷。

在立法思路上，應(yīng)從“內(nèi)容治理”走向“內(nèi)容治理+行為規(guī)制”并舉。當前，我國人工智能立法主要采取內(nèi)容治理思路，如《生成式人工智能服務(wù)管理暫行辦法》聚焦于所生成內(nèi)容本身是否合法，缺乏對事前、事中、事后行為的有效規(guī)制，這導(dǎo)致人工智能風(fēng)險管控難以實現(xiàn)全流程。人工智能立法應(yīng)在內(nèi)容治理基礎(chǔ)上，將行為規(guī)制納入，進而形成“內(nèi)容治理+行為規(guī)制”并舉的立法思路，對事前不當?shù)臄?shù)據(jù)收集、事中不當?shù)乃惴Q策、事后放任風(fēng)險擴大等典型行為予以規(guī)制，這樣才能建立體系閉環(huán)的有效監(jiān)管機制。

在立法體例上，應(yīng)從側(cè)重行政規(guī)制走向民行刑一體化調(diào)控。當前，我國“先試先行”階段的立法重在促進人工智能技術(shù)發(fā)展，其規(guī)制措施主要是中端的行政手段，對前端的民事救濟、后端的刑事制裁關(guān)注相對不足。未來人工智能立法應(yīng)同步規(guī)定民事救濟、行政規(guī)制與刑事制裁內(nèi)容，并在體例上盡可能將三者形成梯度性的對應(yīng)關(guān)系，以在民行刑一體化立法的基礎(chǔ)上，為人工智能領(lǐng)域各類問題的善治奠定基石。

在制度設(shè)計上，應(yīng)重點發(fā)展人工智能領(lǐng)域的特色法律制度。未來，人工智能立法不僅要對已有的“先試先行”立法進行聚合，更需要朝著特色法律制度方向發(fā)展。例如，在內(nèi)容治理層面，建立人工智能訓(xùn)練數(shù)據(jù)的來源確認制度、人工智能生成內(nèi)容的合法性審查制度等；在行為治理層面，建立人工智能決策負面清單制度、人工智能高風(fēng)險決策緊急阻斷制度等。這些富有實效的特色法律制度，不僅要具備解決具體問題的實用性，還要共同構(gòu)成人工智能領(lǐng)域區(qū)別于其他領(lǐng)域獨特的微觀法律系統(tǒng)。

*本文為國家社科基金項目“數(shù)字經(jīng)濟時代實質(zhì)穿透式定罪的適用路徑及其邊界研究”（項目編號：25CFX114）的階段性研究成果。

點擊進入下方小程序

獲取專屬解決方案~

責(zé)任編輯 | 金夢洋

審核人員 | 張文碩

本文聲明 | 本文章僅限學(xué)習(xí)交流使用，如遇侵權(quán)，我們會及時刪除。本文章不代表北大法律信息網(wǎng)（北大法寶）和北京北大英華科技有限公司的法律意見或?qū)ο嚓P(guān)法規(guī)/案件/事件等的解讀。