綠視界丨人工智能安全治理框架2.0版發(fā)布：構(gòu)建全球協(xié)同治理新生態(tài)

要點(diǎn)：2025年9月，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能安全治理框架》2.0版，完善風(fēng)險(xiǎn)分類分級(jí)體系，構(gòu)建“技術(shù)—應(yīng)用—治理”三維防控矩陣，創(chuàng)新協(xié)同治理機(jī)制，配套工具包與評(píng)估體系，推動(dòng)國(guó)際規(guī)則互認(rèn)與協(xié)作，構(gòu)建安全可信的AI發(fā)展生態(tài)，實(shí)現(xiàn)技術(shù)普惠共享。

——來(lái)源于國(guó)家互聯(lián)網(wǎng)信息辦公室

2025年9月15日，在國(guó)家網(wǎng)絡(luò)安全宣傳周主論壇上，國(guó)家互聯(lián)網(wǎng)信息辦公室正式發(fā)布《人工智能安全治理框架》2.0版（以下簡(jiǎn)稱《框架》2.0版）。作為落實(shí)《全球人工智能治理倡議》的核心舉措，這一文件由國(guó)家互聯(lián)網(wǎng)應(yīng)急中心牽頭，聯(lián)合人工智能專業(yè)機(jī)構(gòu)、科研院所及行業(yè)企業(yè)共同制定，在2024年1.0版基礎(chǔ)上，結(jié)合技術(shù)發(fā)展與應(yīng)用實(shí)踐，完善風(fēng)險(xiǎn)分類分級(jí)體系，動(dòng)態(tài)調(diào)整治理措施，標(biāo)志著我國(guó)人工智能安全治理從“原則倡導(dǎo)”向“實(shí)操落地”邁出關(guān)鍵一步。《框架》2.0版的發(fā)布不僅為國(guó)內(nèi)AI產(chǎn)業(yè)發(fā)展劃定安全邊界，更通過(guò)跨國(guó)界、跨領(lǐng)域、跨行業(yè)的協(xié)同治理理念，為全球人工智能治理貢獻(xiàn)中國(guó)方案，推動(dòng)技術(shù)紅利惠及全人類。

《框架》2.0版的出臺(tái)源于人工智能技術(shù)快速迭代帶來(lái)的治理新挑戰(zhàn)。過(guò)去一年，生成式AI、具身智能等技術(shù)突破催生了海量應(yīng)用場(chǎng)景，但同時(shí)也引發(fā)算法歧視、數(shù)據(jù)濫用、深度偽造等風(fēng)險(xiǎn)。某互聯(lián)網(wǎng)企業(yè)AI安全負(fù)責(zé)人指出，1.0版框架側(cè)重宏觀原則，而2.0版針對(duì)“AI生成內(nèi)容標(biāo)識(shí)”“算法透明度”等具體問(wèn)題提出可操作方案，例如要求聊天機(jī)器人需通過(guò)顯式標(biāo)識(shí)（文字標(biāo)注）和隱式標(biāo)識(shí)（技術(shù)水印）雙重方式提示用戶，這一規(guī)則已在國(guó)內(nèi)主流AI產(chǎn)品中落地，用戶識(shí)別準(zhǔn)確率提升至98%。國(guó)家互聯(lián)網(wǎng)應(yīng)急中心數(shù)據(jù)顯示，2024年我國(guó)AI相關(guān)安全事件同比增長(zhǎng)65%，其中深度偽造視頻詐騙案件占比達(dá)32%，《框架》2.0版通過(guò)“風(fēng)險(xiǎn)分級(jí)+動(dòng)態(tài)防控”機(jī)制，將AI風(fēng)險(xiǎn)劃分為“核心風(fēng)險(xiǎn)、重要風(fēng)險(xiǎn)、一般風(fēng)險(xiǎn)”三級(jí)，對(duì)應(yīng)不同治理強(qiáng)度，例如對(duì)涉及公共安全的核心風(fēng)險(xiǎn)，要求企業(yè)每季度提交安全評(píng)估報(bào)告，而一般風(fēng)險(xiǎn)可通過(guò)內(nèi)部合規(guī)審查自主防控。

在風(fēng)險(xiǎn)分類體系上，《框架》2.0版構(gòu)建了“技術(shù)層—應(yīng)用層—治理層”三維風(fēng)險(xiǎn)矩陣。技術(shù)層重點(diǎn)防控算法偏見(jiàn)、數(shù)據(jù)污染、模型投毒等風(fēng)險(xiǎn)，要求訓(xùn)練數(shù)據(jù)需通過(guò)合規(guī)審查，模型發(fā)布前完成安全測(cè)試；應(yīng)用層聚焦自動(dòng)駕駛、醫(yī)療診斷等高風(fēng)險(xiǎn)場(chǎng)景，明確企業(yè)需建立“人類監(jiān)督機(jī)制”，例如AI輔助診療系統(tǒng)的重大決策需經(jīng)醫(yī)生復(fù)核；治理層則強(qiáng)化供應(yīng)鏈安全，要求AI芯片、基礎(chǔ)軟件等關(guān)鍵環(huán)節(jié)供應(yīng)商通過(guò)安全認(rèn)證。某自動(dòng)駕駛企業(yè)據(jù)此調(diào)整研發(fā)流程，在算法訓(xùn)練階段引入第三方機(jī)構(gòu)進(jìn)行公平性測(cè)試，將性別、年齡等敏感特征導(dǎo)致的決策偏差降低至0.3%以下。值得注意的是，《框架》2.0版首次將“環(huán)境影響”納入治理范疇，要求AI企業(yè)定期披露算力中心能耗數(shù)據(jù)，鼓勵(lì)采用綠色算法優(yōu)化模型訓(xùn)練效率，某頭部科技公司通過(guò)模型壓縮技術(shù)，將大模型訓(xùn)練能耗降低40%，年減少碳排放1.2萬(wàn)噸。

協(xié)同治理機(jī)制的創(chuàng)新是《框架》2.0版的鮮明特色。文件提出“政府引導(dǎo)—企業(yè)主責(zé)—社會(huì)監(jiān)督”的共治模式：政府層面建立“AI安全治理沙箱”，允許企業(yè)在可控環(huán)境中測(cè)試創(chuàng)新應(yīng)用；企業(yè)層面需設(shè)立首席AI安全官，對(duì)高風(fēng)險(xiǎn)業(yè)務(wù)實(shí)施“雙人復(fù)核”；社會(huì)層面則鼓勵(lì)行業(yè)協(xié)會(huì)制定自律標(biāo)準(zhǔn)，目前已有120家企業(yè)簽署《AI安全自律公約》。在國(guó)際合作方面，《框架》2.0版與歐盟《人工智能法案》、聯(lián)合國(guó)《負(fù)責(zé)任的人工智能》原則實(shí)現(xiàn)部分規(guī)則互認(rèn)，例如對(duì)“不可接受風(fēng)險(xiǎn)AI系統(tǒng)”的判定標(biāo)準(zhǔn)達(dá)成共識(shí)，某跨國(guó)AI企業(yè)據(jù)此調(diào)整全球產(chǎn)品策略，在中歐市場(chǎng)同步滿足“訓(xùn)練數(shù)據(jù)本地化存儲(chǔ)”要求，合規(guī)成本降低30%。國(guó)家網(wǎng)信辦國(guó)際合作局負(fù)責(zé)人表示，《框架》2.0版將作為我國(guó)參與G20、APEC等多邊機(jī)制AI治理討論的基礎(chǔ)文件，推動(dòng)建立跨國(guó)風(fēng)險(xiǎn)預(yù)警平臺(tái)，目前已與15個(gè)國(guó)家實(shí)現(xiàn)AI安全事件信息共享，響應(yīng)效率提升50%。

為確保落地實(shí)效，《框架》2.0版配套推出“工具包+評(píng)估體系”實(shí)施支撐。工具包包含風(fēng)險(xiǎn)評(píng)估模板、安全測(cè)試用例、合規(guī)自查清單等12類實(shí)用工具，某銀行AI風(fēng)控系統(tǒng)通過(guò)工具包完成算法透明度評(píng)估，將模型決策邏輯解釋準(zhǔn)確率從65%提升至89%；評(píng)估體系則引入“成熟度模型”，將企業(yè)AI治理能力分為“初始級(jí)、管理級(jí)、優(yōu)化級(jí)”三級(jí)，優(yōu)化級(jí)企業(yè)可享受監(jiān)管沙箱優(yōu)先試點(diǎn)等政策紅利，目前已有8家企業(yè)通過(guò)優(yōu)化級(jí)認(rèn)證，獲得自動(dòng)駕駛、智能電網(wǎng)等創(chuàng)新業(yè)務(wù)試點(diǎn)資格。地方層面，北京、上海等地已將AI安全治理納入智慧城市建設(shè)考核，對(duì)達(dá)標(biāo)企業(yè)給予稅收優(yōu)惠，某AI醫(yī)療企業(yè)因此節(jié)省研發(fā)投入2000萬(wàn)元。

《框架》2.0版的發(fā)布正值全球人工智能治理體系加速構(gòu)建的關(guān)鍵期。與1.0版相比，2.0版的突出變化在于從“被動(dòng)應(yīng)對(duì)”轉(zhuǎn)向“主動(dòng)防控”，例如建立“AI安全漏洞獎(jiǎng)勵(lì)計(jì)劃”，鼓勵(lì)白帽黑客發(fā)現(xiàn)AI系統(tǒng)漏洞，最高獎(jiǎng)勵(lì)金額達(dá)500萬(wàn)元；從“國(guó)內(nèi)治理”轉(zhuǎn)向“全球協(xié)同”，通過(guò)“一帶一路”AI治理倡議，向發(fā)展中國(guó)家提供技術(shù)培訓(xùn)和工具支持，目前已在東南亞、非洲等地區(qū)開(kāi)展12期培訓(xùn)班，培養(yǎng)本土治理人才300余人。正如國(guó)家互聯(lián)網(wǎng)信息辦公室負(fù)責(zé)人在發(fā)布會(huì)上強(qiáng)調(diào)的，《框架》2.0版的核心目標(biāo)是“發(fā)展與安全并重”，既要為AI創(chuàng)新留足空間，又要通過(guò)制度設(shè)計(jì)防范風(fēng)險(xiǎn)外溢，最終實(shí)現(xiàn)“技術(shù)可控、倫理合規(guī)、治理有效”的發(fā)展愿景。

隨著《框架》2.0版的實(shí)施，我國(guó)人工智能產(chǎn)業(yè)正邁向“安全中發(fā)展”的新階段。企業(yè)層面，百度、華為等頭部企業(yè)已成立AI治理委員會(huì)，將安全要求嵌入產(chǎn)品全生命周期；行業(yè)層面，生成式AI服務(wù)備案制與《框架》2.0版形成聯(lián)動(dòng)，未通過(guò)安全評(píng)估的產(chǎn)品不得上線；國(guó)際層面，我國(guó)與聯(lián)合國(guó)教科文組織聯(lián)合發(fā)起“AI倫理全球倡議”，推動(dòng)《框架》2.0版核心規(guī)則納入國(guó)際標(biāo)準(zhǔn)。這場(chǎng)以治理促發(fā)展的實(shí)踐，不僅為我國(guó)AI產(chǎn)業(yè)高質(zhì)量發(fā)展筑牢安全屏障，更通過(guò)開(kāi)放包容的治理理念，推動(dòng)全球人工智能技術(shù)普惠共享，讓AI真正成為造福人類的工具。

來(lái)源：國(guó)家互聯(lián)網(wǎng)信息辦公室官網(wǎng)

。。。