尚博文、邱山山 | 金融領(lǐng)域人工智能應(yīng)用的風(fēng)險(xiǎn)與監(jiān)管應(yīng)對(duì)

來(lái)源 | 《金融監(jiān)管研究》2026年第2期

作者 | 尚博文，對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院、

涉外法治研究院助理教授，法學(xué)博士

北大法律信息網(wǎng)簽約作者

邱山山，天津大學(xué)法學(xué)院博士研究生

一、問(wèn)題的提出

人工智能技術(shù)正在重構(gòu)全球金融市場(chǎng)的發(fā)展圖景。作為驅(qū)動(dòng)經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型的核心引擎，人工智能通過(guò)優(yōu)化決策機(jī)制、提升運(yùn)營(yíng)效能等方式重塑金融服務(wù)形態(tài)。數(shù)據(jù)密集型的金融服務(wù)領(lǐng)域具備海量標(biāo)準(zhǔn)化數(shù)據(jù)優(yōu)勢(shì)，天然契合人工智能等前沿技術(shù)應(yīng)用落地。但過(guò)度依賴(lài)人工智能技術(shù)也可能導(dǎo)致忽視其潛在技術(shù)內(nèi)生風(fēng)險(xiǎn)和系統(tǒng)性風(fēng)險(xiǎn)，埋下風(fēng)險(xiǎn)隱患。當(dāng)前學(xué)界對(duì)金融科技風(fēng)險(xiǎn)的研究多停留于特定業(yè)務(wù)場(chǎng)景分析，缺乏從宏觀層面評(píng)估人工智能技術(shù)在金融領(lǐng)域的風(fēng)險(xiǎn)形態(tài)，對(duì)金融人工智能應(yīng)用監(jiān)管的整體性思考尚顯不足，未能充分揭示金融領(lǐng)域人工智能應(yīng)用的風(fēng)險(xiǎn)特征與監(jiān)管理念轉(zhuǎn)型、制度機(jī)制創(chuàng)新之間的內(nèi)在邏輯。

二、金融領(lǐng)域人工智能應(yīng)用的風(fēng)險(xiǎn)

（一）加劇并放大系統(tǒng)性風(fēng)險(xiǎn)

人工智能技術(shù)在金融領(lǐng)域的應(yīng)用，主要通過(guò)算法同質(zhì)化、網(wǎng)絡(luò)互聯(lián)性增強(qiáng)以及對(duì)第三方模型的集中依賴(lài)等實(shí)現(xiàn)，在這一過(guò)程中易產(chǎn)生系統(tǒng)性風(fēng)險(xiǎn)，其原因有三：一是出于成本控制與效率提升的考量，金融機(jī)構(gòu)在經(jīng)營(yíng)中傾向于采用相似的人工智能模型與數(shù)據(jù)源，導(dǎo)致決策邏輯和結(jié)果具有明顯的同構(gòu)性；二是技術(shù)應(yīng)用在客觀上會(huì)強(qiáng)化機(jī)構(gòu)與市場(chǎng)間的連接，形成高度互聯(lián)互通的網(wǎng)絡(luò)結(jié)構(gòu)；三是對(duì)少數(shù)大型模型提供商的依賴(lài)，滋生了“模型從眾”的行業(yè)生態(tài)。

（二）引發(fā)決策錯(cuò)誤

“決策錯(cuò)誤”主要指模型因數(shù)據(jù)缺陷或邏輯偏差，輸出與金融現(xiàn)實(shí)不符或與預(yù)期目標(biāo)相悖的分析結(jié)果、風(fēng)險(xiǎn)評(píng)估或交易指令。有效訓(xùn)練數(shù)據(jù)不足是導(dǎo)致模型決策基礎(chǔ)薄弱的核心原因，主要表現(xiàn)為數(shù)據(jù)規(guī)模的有限性和數(shù)據(jù)適用性偏低。數(shù)據(jù)污染是引發(fā)模型決策系統(tǒng)性偏差的關(guān)鍵因素，“毒性”訓(xùn)練數(shù)據(jù)會(huì)讓虛假交易記錄、錯(cuò)誤財(cái)務(wù)信息等不良數(shù)據(jù)混入訓(xùn)練集，致使模型決策邏輯被污染數(shù)據(jù)所扭曲，輸出結(jié)果存在固有偏差。

（三）導(dǎo)致個(gè)人數(shù)據(jù)信息泄露

金融人工智能系統(tǒng)的搭建和運(yùn)行過(guò)程中形成的數(shù)據(jù)聚集現(xiàn)象，成為數(shù)據(jù)及個(gè)人信息泄露的主要風(fēng)險(xiǎn)源。該風(fēng)險(xiǎn)源的形成主要通過(guò)兩個(gè)路徑：其一，基于合規(guī)義務(wù)的信息強(qiáng)制收集；其二，基于服務(wù)優(yōu)化的信息提供。金融消費(fèi)者為獲取精準(zhǔn)的智能服務(wù)，會(huì)主動(dòng)將敏感信息上傳至人工智能系統(tǒng)，從而形成信息泄露的風(fēng)險(xiǎn)敞口。金融消費(fèi)者在與生成式人工智能交互過(guò)程中上傳的數(shù)據(jù)會(huì)被模型存儲(chǔ)并用于參數(shù)更新，其中也具有數(shù)據(jù)泄露的潛在風(fēng)險(xiǎn)。

（四）技術(shù)倫理失調(diào)

技術(shù)倫理失調(diào)，是指在金融人工智能的應(yīng)用過(guò)程中，因技術(shù)固有缺陷或人為因素導(dǎo)致其決策過(guò)程或結(jié)果違背公平、透明、可信等倫理準(zhǔn)則，進(jìn)而引發(fā)歧視、欺詐、信任缺失等問(wèn)題，這主要源自偏見(jiàn)歧視和“幻覺(jué)”。金融人工智能模型所使用的訓(xùn)練數(shù)據(jù)和算法都可能會(huì)導(dǎo)致模型產(chǎn)生歧視性結(jié)果。金融訓(xùn)練數(shù)據(jù)的完整性不足以及模型推理泛化能力較弱，也是誘發(fā)幻覺(jué)的主要原因。技術(shù)倫理失調(diào)主要會(huì)導(dǎo)致歧視性決策、深度偽造風(fēng)險(xiǎn)以及由模型“黑箱”特性引發(fā)的監(jiān)管與信任難題。

（五）資源集中引發(fā)競(jìng)爭(zhēng)風(fēng)險(xiǎn)

金融人工智能領(lǐng)域因關(guān)鍵資源集中、商業(yè)模式整合及技術(shù)特性，會(huì)引發(fā)市場(chǎng)結(jié)構(gòu)失衡與潛在競(jìng)爭(zhēng)抑制風(fēng)險(xiǎn)。大型金融科技企業(yè)依托其技術(shù)優(yōu)勢(shì)不斷拓寬業(yè)務(wù)邊界，累積海量個(gè)人信息和金融交易數(shù)據(jù)。競(jìng)爭(zhēng)風(fēng)險(xiǎn)具體表現(xiàn)為市場(chǎng)競(jìng)爭(zhēng)格局的扭曲與新型壟斷行為的出現(xiàn)，呈現(xiàn)出“贏者通吃”的市場(chǎng)格局，衍生出以算法為主導(dǎo)的壟斷行為。

三、金融領(lǐng)域人工智能監(jiān)管的策略檢視與反思

目前，我國(guó)對(duì)通用人工智能的法律規(guī)制仍處于初步探索階段，主要依賴(lài)人工智能服務(wù)、算法推薦相關(guān)的部門(mén)規(guī)章，以及部分金融行業(yè)標(biāo)準(zhǔn)進(jìn)行行為規(guī)范，尚未形成系統(tǒng)化、層級(jí)化的立法架構(gòu)。綜合分析各國(guó)監(jiān)管策略，其出發(fā)點(diǎn)大致可歸納為人權(quán)保障、技術(shù)標(biāo)準(zhǔn)、風(fēng)險(xiǎn)分類(lèi)及敏捷治理等四個(gè)維度。對(duì)金融領(lǐng)域人工智能監(jiān)管策略局限的反思主要體現(xiàn)在以下方面：

（一）制度規(guī)則存在結(jié)構(gòu)性不對(duì)稱(chēng)

我國(guó)金融領(lǐng)域人工智能監(jiān)管呈現(xiàn)雙重困境：一是難以將宏觀性原則規(guī)范有效轉(zhuǎn)化為微觀層面的具體行為指引；二是缺乏與技術(shù)、市場(chǎng)共同演進(jìn)的動(dòng)態(tài)制度安排。從規(guī)則可執(zhí)行性來(lái)看，以倫理、人權(quán)為基礎(chǔ)的監(jiān)管原則多停留于抽象層面，缺乏可操作的細(xì)化標(biāo)準(zhǔn)。從規(guī)則動(dòng)態(tài)適應(yīng)性來(lái)看，傳統(tǒng)金融監(jiān)管策略不足以有效響應(yīng)人工智能的快速迭代和應(yīng)用場(chǎng)景的瞬息萬(wàn)變。

（二）事后懲戒機(jī)制的滯后性缺陷

我國(guó)金融業(yè)目前“分業(yè)經(jīng)營(yíng)、分業(yè)監(jiān)管”的格局，使得金融科技監(jiān)管呈現(xiàn)出多元主體與多重標(biāo)準(zhǔn)并存的治理形態(tài)。在應(yīng)對(duì)金融人工智能系統(tǒng)的復(fù)合型風(fēng)險(xiǎn)時(shí)，往往面臨資源整合與統(tǒng)一調(diào)度協(xié)調(diào)的挑戰(zhàn)。當(dāng)前金融人工智能監(jiān)管在整體協(xié)同、前置介入上的結(jié)構(gòu)性短板，不僅使風(fēng)險(xiǎn)應(yīng)對(duì)陷入被動(dòng)，更難以從源頭上捕捉控制風(fēng)險(xiǎn)的良機(jī)。

（三）協(xié)同治理的制度性掣肘

金融領(lǐng)域人工智能的監(jiān)管涉及技術(shù)研發(fā)者、數(shù)據(jù)提供者、消費(fèi)者權(quán)益組織以及行業(yè)自律團(tuán)體等多元利益主體。然而，當(dāng)前的監(jiān)管體系中，多元主體間的利益訴求和價(jià)值取向仍然存在差異，制約了協(xié)同治理的實(shí)際效果。標(biāo)準(zhǔn)化制定過(guò)程中的利益失衡更為突出，不同主體在技術(shù)發(fā)展、風(fēng)險(xiǎn)認(rèn)知與合規(guī)標(biāo)準(zhǔn)理解上存在信息不對(duì)稱(chēng)性。

四、金融領(lǐng)域人工智能應(yīng)用的三重監(jiān)管應(yīng)對(duì)

傳統(tǒng)金融監(jiān)管模式在應(yīng)對(duì)人工智能技術(shù)時(shí)不可避免地會(huì)陷入科林格里奇困境。為實(shí)現(xiàn)人工智能技術(shù)在金融領(lǐng)域的良性發(fā)展，需重塑監(jiān)管理念，從靜態(tài)、剛性向動(dòng)態(tài)與彈性轉(zhuǎn)變，從事后監(jiān)管、單一監(jiān)管向事前規(guī)制與協(xié)同監(jiān)管轉(zhuǎn)變。

（一）注重監(jiān)管時(shí)序的預(yù)防性：由單一事后懲處轉(zhuǎn)向重視事前規(guī)制

重視事前規(guī)制意味著法律介入社會(huì)關(guān)系的“關(guān)口”前移。具體路徑可從建立風(fēng)險(xiǎn)監(jiān)測(cè)與預(yù)警機(jī)制、開(kāi)展合規(guī)審計(jì)及明確各主體義務(wù)等方面展開(kāi)。首先，明確金融人工智能模型提供者、系統(tǒng)提供者、系統(tǒng)部署者等鏈條主體的義務(wù)，構(gòu)建金融消費(fèi)者權(quán)利保障的先設(shè)機(jī)制。其次，建立金融人工智能安全風(fēng)險(xiǎn)監(jiān)測(cè)與預(yù)警機(jī)制，對(duì)影響金融消費(fèi)者權(quán)益的風(fēng)險(xiǎn)進(jìn)行精準(zhǔn)監(jiān)測(cè)、精細(xì)評(píng)估、精確預(yù)警。最后，建立金融領(lǐng)域人工智能系統(tǒng)進(jìn)入市場(chǎng)大規(guī)模部署前的合規(guī)審計(jì)機(jī)制，從技術(shù)合規(guī)、數(shù)據(jù)合規(guī)、流程合規(guī)、倫理合規(guī)等維度識(shí)別潛在的法律和道德風(fēng)險(xiǎn)。

（二）加強(qiáng)監(jiān)管空間的適應(yīng)性：監(jiān)管規(guī)則內(nèi)嵌于模型設(shè)計(jì)

監(jiān)管框架應(yīng)積極主動(dòng)引導(dǎo)金融人工智能系統(tǒng)的風(fēng)險(xiǎn)自我評(píng)估與調(diào)適，將法律規(guī)則及倫理內(nèi)嵌于技術(shù)發(fā)展進(jìn)程中。要將倫理準(zhǔn)則與合規(guī)要求嵌入人工智能系統(tǒng)的程序代碼中，使金融人工智能系統(tǒng)具備內(nèi)生合規(guī)性與合理性邏輯結(jié)構(gòu)。首先，建立作為規(guī)范基礎(chǔ)的金融科技倫理框架，在《金融法》立法中充分回應(yīng)新興科技的影響。其次，持續(xù)優(yōu)化金融科技倫理框架的動(dòng)態(tài)調(diào)適機(jī)制，基于法律法規(guī)變化和技術(shù)發(fā)展調(diào)整系統(tǒng)嵌入的倫理要求。最后，加強(qiáng)技術(shù)開(kāi)發(fā)者的金融法律素養(yǎng)與倫理意識(shí)培育，防范設(shè)計(jì)者偏見(jiàn)對(duì)系統(tǒng)造成負(fù)面影響。

（三）提升監(jiān)管主體的協(xié)同性：從二元格局到多元協(xié)同

需要多元主體協(xié)同治理才能增強(qiáng)監(jiān)管體系的韌性與適應(yīng)性。其一，搭建多元利益主體溝通平臺(tái)，形成由監(jiān)管部門(mén)、技術(shù)專(zhuān)家、社會(huì)組織、研究機(jī)構(gòu)和公眾等多方主體共同參與的技術(shù)風(fēng)險(xiǎn)治理組織網(wǎng)絡(luò)。其二，明確多元協(xié)同監(jiān)管中各主體的職責(zé)邊界：監(jiān)管機(jī)構(gòu)負(fù)責(zé)頂層設(shè)計(jì)和統(tǒng)籌協(xié)調(diào)；金融人工智能服務(wù)提供者履行數(shù)據(jù)、模型設(shè)計(jì)合法審查及算法披露等義務(wù)；金融消費(fèi)者承擔(dān)合理使用金融服務(wù)、配合風(fēng)險(xiǎn)防控措施等義務(wù)；行業(yè)協(xié)會(huì)、自律組織等主體承擔(dān)合規(guī)培訓(xùn)、政策建議等職責(zé)。

五、結(jié)語(yǔ)

金融領(lǐng)域人工智能的深度融合，既提升了金融服務(wù)效率，也形成了復(fù)雜多維的風(fēng)險(xiǎn)結(jié)構(gòu)。面對(duì)這一挑戰(zhàn)，應(yīng)在監(jiān)管時(shí)序上從被動(dòng)回應(yīng)轉(zhuǎn)向主動(dòng)預(yù)防，在監(jiān)管空間上推動(dòng)“設(shè)計(jì)即監(jiān)管”原則落地，在監(jiān)管主體上構(gòu)建多維協(xié)同治理框架。未來(lái)的《金融法》及配套監(jiān)管體系，應(yīng)以“技術(shù)向善”為導(dǎo)向，統(tǒng)籌安全與發(fā)展、創(chuàng)新與穩(wěn)定、效率與公平等多重目標(biāo)，構(gòu)建一個(gè)前瞻預(yù)防、規(guī)則內(nèi)嵌、多元協(xié)同的高水平現(xiàn)代化的科學(xué)治理體系，在法治軌道上實(shí)現(xiàn)技術(shù)理性與制度理性的融合，以保障金融高質(zhì)量發(fā)展。

點(diǎn)擊進(jìn)入下方小程序

獲取專(zhuān)屬解決方案~

責(zé)任編輯 | 王睿

審核人員 | 張文碩

本文聲明 | 本文章僅限學(xué)習(xí)交流使用，如遇侵權(quán)，我們會(huì)及時(shí)刪除。本文章不代表北大法律信息網(wǎng)（北大法寶）和北京北大英華科技有限公司的法律意見(jiàn)或?qū)ο嚓P(guān)法規(guī)/案件/事件等的解讀。