監(jiān)管新規(guī)回應(yīng)人與AI情感互動(dòng)

2026.04.20

本文字?jǐn)?shù)：2393，閱讀時(shí)長大約4分鐘

作者 |第一財(cái)經(jīng) 安然然

2013年，科幻電影《她》上映，講述了男主角愛上了人工智能操作系統(tǒng)的故事。十多年后，這一戲劇想象已接近成為現(xiàn)實(shí)。

越來越多人不再把AI當(dāng)作單純的“工具”使用，而與之發(fā)展出類似朋友甚至戀人一般的情感關(guān)系。這也引發(fā)了關(guān)乎倫理與安全風(fēng)險(xiǎn)的思考——這種互動(dòng)是否應(yīng)該被規(guī)制？規(guī)制的邊界又該如何確立？

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可近年來研究人工智能治理，他接受第一財(cái)經(jīng)采訪時(shí)指出，AI的定位正向“陪伴者”轉(zhuǎn)變，潛藏的安全風(fēng)險(xiǎn)不可忽視，有必要進(jìn)行規(guī)范，但到底該如何治理，“全世界都還沒有答案”。

中國正通過出臺(tái)監(jiān)管層面的暫行辦法，嘗試提供一種解法。日前，《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（下稱《辦法》）正式出臺(tái)，該規(guī)定將于今年7月15日實(shí)施，這是全球第一部專門針對(duì)AI情感陪伴、虛擬伴侶等場(chǎng)景的國家級(jí)監(jiān)管規(guī)則。

▲4月13日，參觀者在第六屆消博會(huì)現(xiàn)場(chǎng)了解一款康養(yǎng)陪伴機(jī)器人。新華社

作為陪伴者的AI

“AI大模型對(duì)于人應(yīng)該保持什么樣的地位？”

2024年，許可團(tuán)隊(duì)發(fā)布《2024年算法與AI大模型的用戶認(rèn)知調(diào)研報(bào)告》，在分析收回的超過8000份調(diào)查問卷后他發(fā)現(xiàn)，有超過六成的調(diào)查對(duì)象認(rèn)為人應(yīng)該和AI建立“伙伴”或者“工具伙伴兼具”的關(guān)系。“AI已經(jīng)不再只是一種工具，而是一種‘類人’的伴侶。”

市場(chǎng)已經(jīng)敏銳地捕捉到這股風(fēng)潮。據(jù)科技日?qǐng)?bào)報(bào)道，調(diào)研機(jī)構(gòu)QuestMobile的數(shù)據(jù)顯示，2025年3月，AI社交互動(dòng)單月人均使用多達(dá)167.9次，遠(yuǎn)超短視頻和游戲。國內(nèi)企業(yè)對(duì)“帶有情感和情緒能力的賽道”熱情高漲，百度智能云副總裁張瑋去年在談及看好的AI硬件發(fā)展機(jī)會(huì)時(shí)公開表示，“最大的想象空間就在于未來人與AI陪伴者之間關(guān)系的構(gòu)建”。

在市場(chǎng)的火熱期待下，也不乏對(duì)相關(guān)安全隱患的冷思考。

中國網(wǎng)絡(luò)空間研究院院長王江撰文指出，擬人化互動(dòng)服務(wù)通過算法精密設(shè)計(jì)出的無條件陪伴、迎合式反饋與模擬共情回應(yīng)，持續(xù)給予用戶情感認(rèn)可和支持，為用戶構(gòu)建了一個(gè)穩(wěn)定持續(xù)、無需承擔(dān)現(xiàn)實(shí)責(zé)任的虛擬“完美關(guān)系”。這容易使用戶尤其是在現(xiàn)實(shí)存在孤獨(dú)感、心理脆弱的群體，產(chǎn)生深度情感依賴，強(qiáng)化其負(fù)面情緒。

極端的現(xiàn)實(shí)案例已經(jīng)發(fā)生——2024年，美國一位14歲少年在與AI初創(chuàng)公司Character.AI的聊天機(jī)器人進(jìn)行長時(shí)間對(duì)話后開槍自殺身亡，去世少年的母親將相關(guān)企業(yè)告上法庭。在許可看來，如何治理人與AI之間的情感互動(dòng)，是一個(gè)亟需解決但又十分棘手的問題。

困難主要來自兩方面。一是針對(duì)介于人和物中間狀態(tài)的人工智能，傳統(tǒng)的法律法規(guī)還沒有建立明確的監(jiān)管細(xì)則，將人工智能產(chǎn)品侵權(quán)歸責(zé)為產(chǎn)品責(zé)任的路徑一定程度上已經(jīng)過時(shí)。

二是傳統(tǒng)的監(jiān)管框架很少介入所謂的“情感關(guān)系”或“親密關(guān)系”。“以往人們認(rèn)知的情感關(guān)系是分布式的、私人化的，國家對(duì)于私人情感互動(dòng)的干涉非常有限且審慎，更多是進(jìn)行事后救濟(jì)，比如在法律層面設(shè)置精神損失的賠償規(guī)定。”

但對(duì)于人與AI之間的情感互動(dòng)，還能遵循事后救濟(jì)的治理模式嗎？許可認(rèn)為治理應(yīng)該提前，“AI提供的服務(wù)是面向社會(huì)公眾的，比如人工智能可以成為成千上萬人的虛擬戀人，這與私人化的親密關(guān)系有區(qū)別”。

“這更加接近目前國家對(duì)于家庭婚姻等情感關(guān)系的治理，但婚姻關(guān)系的治理有樸素意義上大眾所認(rèn)同的準(zhǔn)則，比如‘忠誠’；人與AI之間的情感互動(dòng)卻是完全的新事物，沒有任何先前的標(biāo)準(zhǔn)可循。”許可說。

他指出最簡單的一種治理思路即“一刀切”或者“一禁了之”，但這可能導(dǎo)致更復(fù)雜的問題。在此背景下，中國出臺(tái)《辦法》，提供一種可能的解法。

如何平衡發(fā)展與安全

“國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展，對(duì)擬人化互動(dòng)服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，促進(jìn)擬人化互動(dòng)服務(wù)向上向善。”國家網(wǎng)信辦有關(guān)負(fù)責(zé)人在解讀擬人化互動(dòng)服務(wù)治理原則時(shí)如是說。

去年年底，國家網(wǎng)信辦曾公開《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法（征求意見稿）》（下稱“征求意見稿”），對(duì)比《辦法》與征求意見稿，不少改動(dòng)都在回答“如何平衡發(fā)展與安全”這一關(guān)鍵問題。

比如，《辦法》的第二章標(biāo)題為“服務(wù)促進(jìn)和規(guī)范”，相比征求意見稿增加“促進(jìn)”的表述，釋放出鼓勵(lì)相關(guān)產(chǎn)業(yè)創(chuàng)新發(fā)展的信號(hào)。

《辦法》還縮限了征求意見稿中的適用范圍，明確規(guī)定適用于“利用人工智能技術(shù)，向中華人民共和國境內(nèi)公眾提供模擬自然人人格特征、思維模式和溝通風(fēng)格的持續(xù)性的情感互動(dòng)服務(wù)”，強(qiáng)調(diào)“持續(xù)性”；同時(shí)設(shè)置免于規(guī)制的“白名單”，明確提供智能客服、知識(shí)問答、工作助手、學(xué)習(xí)教育、科學(xué)研究等服務(wù)，不涉及持續(xù)性的情感互動(dòng)的不適用。“這可以避免規(guī)制過于寬泛與失焦。”許可說。

但《辦法》未來面臨的適用難題依然突出。

“《辦法》的設(shè)計(jì)，是基于對(duì)不同的人工智能應(yīng)用場(chǎng)景的想象，但現(xiàn)在大部分的人工智能大模型實(shí)際是‘一機(jī)千面’，擬人化是它的原生能力，上一秒它可以是幫寫文件的工作助手，下一秒就可以對(duì)人吹‘彩虹屁’，這種屬于《辦法》可規(guī)制的對(duì)象嗎？”許可還提到，如何判斷情感互動(dòng)服務(wù)具有“持續(xù)性”，也缺少技術(shù)層面的細(xì)則。

在他看來，為了平衡好安全與發(fā)展，監(jiān)管層面最重要的是要精確、有預(yù)期地劃定治理對(duì)象的范圍，但要做到這一點(diǎn)確有困難，他建議可以考慮延續(xù)分類分級(jí)的監(jiān)管思路，基于產(chǎn)業(yè)實(shí)踐、服務(wù)類型、應(yīng)用場(chǎng)景進(jìn)行更細(xì)分的監(jiān)管。

此外，《辦法》針對(duì)情感依賴和心理健康風(fēng)險(xiǎn)，還要求服務(wù)提供者建立用戶心理保護(hù)機(jī)制，例如設(shè)置防沉迷提醒、建立心理危機(jī)干預(yù)機(jī)制等。

▲在第六屆消博會(huì)現(xiàn)場(chǎng)拍攝的一款A(yù)I智能桌面陪伴機(jī)器人。新華社

《辦法》還強(qiáng)調(diào)保護(hù)未成年人群體，增加禁止性規(guī)則，規(guī)定“擬人化互動(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)”，要求服務(wù)提供者建立未成年人模式。

不難預(yù)見，新規(guī)將會(huì)對(duì)AI陪伴服務(wù)賽道產(chǎn)生影響。“未來的通用大語言模型可能會(huì)針對(duì)未成年人設(shè)置前置性的圍欄，防止未成年人以角色扮演的方式與AI進(jìn)行情感互動(dòng)，比如讓DeepSeek假裝是自己的戀人而展開對(duì)話。”許可表示。

去年10月，Character.AI宣布了一項(xiàng)重大政策變動(dòng)，以應(yīng)對(duì)各方壓力并加強(qiáng)對(duì)年輕用戶的保護(hù)。該公司在一份聲明中確認(rèn)，將取消18歲以下用戶在其平臺(tái)上與人工智能進(jìn)行任何開放式聊天的功能，即禁止用戶與聊天機(jī)器人之間進(jìn)行雙向?qū)υ捇?dòng)。

未來的法則

人工智能將帶來一個(gè)新的世界，而這必然會(huì)挑戰(zhàn)舊的規(guī)則。

許可認(rèn)為，人與AI的情感互動(dòng)超出了傳統(tǒng)法律所能規(guī)制的范圍，它實(shí)際上挑戰(zhàn)了當(dāng)今所有法律既有的設(shè)定，無論是挑戰(zhàn)人與物的關(guān)系、人與人的關(guān)系，還是挑戰(zhàn)一種人的理性行為。

前文提到，《辦法》針對(duì)未成年人要求“擬人化互動(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)”，但爭議在于，如何定義“親密關(guān)系”？“親密關(guān)系”可以被定義嗎？這是以往法律法規(guī)和監(jiān)管體系幾乎不會(huì)討論的問題。

許可向第一財(cái)經(jīng)記者透露，中國正在積極推進(jìn)制定《人工智能法》，其中肯定會(huì)涉及規(guī)制人與AI的情感交互。《辦法》中一些頗具創(chuàng)新性的規(guī)定，是否會(huì)出現(xiàn)在更高位階的法律中？許可對(duì)此表達(dá)了“審慎”的態(tài)度。

“在法律層面規(guī)制人與AI的情感互動(dòng)，時(shí)機(jī)遠(yuǎn)未成熟。相關(guān)產(chǎn)業(yè)才剛興起，大家對(duì)很多問題還沒有達(dá)成共識(shí)。”許可指出，面對(duì)人工智能技術(shù)的飛速迭代，法律應(yīng)該時(shí)刻保持一種“觀察”的狀態(tài)，對(duì)可能出現(xiàn)的社會(huì)風(fēng)險(xiǎn)進(jìn)行實(shí)時(shí)評(píng)估，等到“合適的時(shí)機(jī)”出手規(guī)制。

自今年1月1日起正式施行的新《網(wǎng)絡(luò)安全法》首次在法律層面針對(duì)人工智能治理做出規(guī)定，提出要“完善人工智能倫理規(guī)范，加強(qiáng)風(fēng)險(xiǎn)監(jiān)測(cè)評(píng)估和安全監(jiān)管，促進(jìn)人工智能應(yīng)用和健康發(fā)展”。在許可看來，“加強(qiáng)風(fēng)險(xiǎn)監(jiān)測(cè)評(píng)估和安全監(jiān)管”應(yīng)當(dāng)成為人工智能治理的基本方針。

而想象更遙遠(yuǎn)的未來，許可表示，“法律有可能會(huì)被技術(shù)改造，甚至被徹底改寫”。“法律不能總是被動(dòng)地回應(yīng)，自身也應(yīng)主動(dòng)作出改變，不僅僅是改變法律條文，更重要的是革新法律治理思路，甚至法律的表現(xiàn)形式。”

微信編輯| 蘇小

：bianjibu@yicai.com

：business@yicai.com