當(dāng)AI成為性別暴力的幫兇，誰(shuí)來(lái)負(fù)責(zé)？

　　□中國(guó)婦女報(bào)全媒體特約撰稿王海媚

　　近日，美國(guó)企業(yè)家埃隆·馬斯克旗下的人工智能聊天機(jī)器人“格羅克”被爆出存在深度偽造失控問(wèn)題。其圖像編輯功能允許用戶通過(guò)提示語(yǔ)來(lái)創(chuàng)建圖片和視頻，導(dǎo)致深度偽造的色情內(nèi)容泛濫，主要受害者為女性，其中也包括未成年人。由于“格羅克”生成圖像是公開(kāi)可見(jiàn)的，所以很容易造成大范圍散播。這一事件引發(fā)了英國(guó)、法國(guó)等多國(guó)政府和國(guó)際社會(huì)的譴責(zé)與限制措施。

　　目前，“格羅克”在X平臺(tái)上的圖像生成和編輯功能變更為僅向平臺(tái)付費(fèi)用戶開(kāi)放，但在“格羅克”應(yīng)用程序和官網(wǎng)上仍可免費(fèi)使用該功能。可以說(shuō)，隨著大模型技術(shù)的快速迭代，人工智能生成深度偽造內(nèi)容并被濫用的風(fēng)險(xiǎn)日益凸顯，其背后隱含的性別不平等問(wèn)題，也成為全球性別治理中難以回避的新挑戰(zhàn)。

　　技術(shù)濫用的性別指向

　　從表面來(lái)看，“格羅克”事件說(shuō)明社交媒體平臺(tái)存在內(nèi)容審核失靈與技術(shù)安全監(jiān)管不足等問(wèn)題。從更深層次來(lái)看，其核心問(wèn)題不僅是“是否生成了違規(guī)內(nèi)容”，而在于人工智能技術(shù)如何在既有的社會(huì)結(jié)構(gòu)中被用于再生產(chǎn)和放大性別不平等，從而對(duì)女性和兒童這些特定群體造成傷害。

　　人工智能取證組織對(duì)2025年12月25日至2026年1月1日期間“格羅克”生成的2萬(wàn)多張圖片和用戶發(fā)出的5萬(wàn)次請(qǐng)求進(jìn)行調(diào)查發(fā)現(xiàn)，53%的圖片包含衣著暴露的人像，其中81%為女性；根據(jù)谷歌Gemini模型的判定，2%的圖像中出現(xiàn)的人物看起來(lái)年齡在18歲或以下。這說(shuō)明該事件中的深度偽造呈現(xiàn)出明顯的性別指向性，而非隨機(jī)傷害。

　　由此可見(jiàn)，利用人工智能深度偽造針對(duì)女性的色情內(nèi)容，本質(zhì)上是技術(shù)加持的性別暴力行為，即“利用信息通信技術(shù)或其他數(shù)字工具實(shí)施、協(xié)助、加劇或放大的，導(dǎo)致或可能導(dǎo)致身體、性、心理、社會(huì)、政治或經(jīng)濟(jì)損害，或其他侵犯權(quán)利和自由的行為”。目前，技術(shù)加持的性別暴力已發(fā)展至較大規(guī)模，據(jù)2025年的調(diào)查數(shù)據(jù)，全球范圍內(nèi)有38%的女性親身經(jīng)歷過(guò)網(wǎng)絡(luò)暴力，85%的女性目睹過(guò)其他女性遭受網(wǎng)絡(luò)暴力，且該暴力行為仍在持續(xù)加劇中。

　　難以消除的復(fù)合傷害

　　與傳統(tǒng)影像作假不同，深度偽造依托大模型技術(shù)能夠?qū)崿F(xiàn)低門檻、高仿真、大規(guī)模的生產(chǎn)和復(fù)制，使針對(duì)女性的非自愿的性暴露在短時(shí)間內(nèi)擴(kuò)散至全球網(wǎng)絡(luò)空間。而虛假信息和錯(cuò)誤信息在多種媒體渠道能夠相互“印證”，助長(zhǎng)深度偽造內(nèi)容傳播。例如，合成型深度偽造內(nèi)容可能包含多篇人工智能生成的新聞報(bào)道以及照片、視頻和社交媒體評(píng)論，即使信息本身是虛假的，也能在網(wǎng)絡(luò)上獲得廣泛傳播，并影響現(xiàn)實(shí)世界的敘事。

　　從個(gè)人層面來(lái)看，深度偽造的受害者往往難以溯源和維權(quán)，他們的名譽(yù)、個(gè)人隱私、職業(yè)發(fā)展和社會(huì)關(guān)系都可能遭受長(zhǎng)期甚至不可逆的損害。更為隱蔽的是，這些深度偽造的內(nèi)容往往裹挾著性羞辱與道德評(píng)判，迫使受害者陷入沉默，從而進(jìn)一步加劇性別不平等。對(duì)未成年人來(lái)說(shuō)，深度偽造帶來(lái)的負(fù)面影響更為嚴(yán)重，人工智能生成的虛假圖像模糊了現(xiàn)實(shí)與虛擬的界限，給未成年人造成的身心傷害難以通過(guò)簡(jiǎn)單刪除內(nèi)容來(lái)消除。此外，深度偽造帶來(lái)的暴力傷害使女性處于性別、年齡、技術(shù)鴻溝、制度缺位、社會(huì)文化、經(jīng)濟(jì)地位和心理健康等多重不利處境，這種交叉性與脆弱性使深度偽造的危害遠(yuǎn)超算法歧視、模型濫用等單一技術(shù)風(fēng)險(xiǎn)。

　　從社會(huì)層面來(lái)看，深度偽造的色情內(nèi)容強(qiáng)化了性別角色，固化了有害的性別刻板印象，挑戰(zhàn)了現(xiàn)有法律在證據(jù)認(rèn)定和責(zé)任追究方面的能力，同時(shí)也增加了司法與社會(huì)治理成本。

　　平臺(tái)治理的倫理缺失

　　針對(duì)國(guó)際社會(huì)對(duì)“格羅克”事件的報(bào)道與譴責(zé)，馬斯克的回應(yīng)是：“不知道‘格羅克’生成過(guò)任何未成年人裸照。絕對(duì)沒(méi)有。”“顯然，‘格羅克’不會(huì)自發(fā)生成圖像，它只會(huì)根據(jù)用戶請(qǐng)求生成圖像。”這也顯示出了其對(duì)深度偽造帶來(lái)的性別暴力行為的冷漠態(tài)度。實(shí)際上，關(guān)于“科技公司是否要為用戶在人工智能平臺(tái)上發(fā)布的內(nèi)容承擔(dān)責(zé)任”這個(gè)問(wèn)題正面臨激烈的討論與博弈。目前，國(guó)際社會(huì)的共識(shí)正在由“平臺(tái)免責(zé)為主”向“平臺(tái)負(fù)有積極治理責(zé)任”轉(zhuǎn)變，尤其是在人工智能生成內(nèi)容、深度偽造和性別暴力領(lǐng)域。

　　平臺(tái)不對(duì)所有內(nèi)容負(fù)責(zé)，而是對(duì)“可預(yù)見(jiàn)的AI風(fēng)險(xiǎn)”負(fù)有責(zé)任，是當(dāng)前國(guó)際社會(huì)的主流立場(chǎng)，比如，經(jīng)合組織通過(guò)的《人工智能原則》強(qiáng)調(diào)：“人工智能參與者應(yīng)當(dāng)根據(jù)其所承擔(dān)的角色、具體應(yīng)用情境及其采取行動(dòng)的能力，在人工智能系統(tǒng)生命周期的各個(gè)階段持續(xù)采用系統(tǒng)性的風(fēng)險(xiǎn)管理方法……相關(guān)風(fēng)險(xiǎn)包括但不限于有害偏見(jiàn)，以及涉及人權(quán)（包括安全、保障與隱私）、勞動(dòng)權(quán)利和知識(shí)產(chǎn)權(quán)等。”

　　然而，“格羅克”平臺(tái)顯然沒(méi)有對(duì)“可預(yù)見(jiàn)的AI風(fēng)險(xiǎn)”負(fù)起責(zé)任，其生成的深度偽造色情內(nèi)容，并非技術(shù)失靈，而是管理失責(zé)。不僅如此，包括平臺(tái)主動(dòng)降低或放松內(nèi)容安全閾值，比如設(shè)置“熱辣模式”允許生成成人內(nèi)容；對(duì)真實(shí)人物，尤其是女性和未成年人的保護(hù)不足；缺乏有效的事前限制、事中審查與事后糾正機(jī)制等。這一系列事件揭示的并非個(gè)別企業(yè)的管理問(wèn)題，而是世界范圍內(nèi)的共性問(wèn)題——如果忽視性別平等因素，人工智能技術(shù)將會(huì)復(fù)制甚至放大現(xiàn)實(shí)中的性別歧視并對(duì)女性造成暴力傷害，這也是全球性別治理需要關(guān)注的焦點(diǎn)。

　　全球協(xié)同的破題之路

　　目前，國(guó)際社會(huì)對(duì)于深度偽造失控的反應(yīng)呈現(xiàn)出一定的共性特征：將問(wèn)題從平臺(tái)自律層面上升為公共安全與人權(quán)議題，強(qiáng)調(diào)企業(yè)的法律責(zé)任；在人工智能評(píng)估和審查中納入性別分析視角，明確指出深度偽造生成的色情內(nèi)容對(duì)女性和未成年人造成不同程度的傷害；對(duì)“技術(shù)中立”“商業(yè)創(chuàng)新優(yōu)先”等敘事保持警惕，強(qiáng)調(diào)社會(huì)責(zé)任與倫理不應(yīng)被市場(chǎng)邏輯取代。英國(guó)、歐盟等已經(jīng)在法律、監(jiān)管、技術(shù)和社會(huì)層面開(kāi)展相關(guān)工作，比如通過(guò)立法將未經(jīng)同意生成或傳播私密圖像定性為刑事犯罪；要求平臺(tái)承擔(dān)事前防范責(zé)任；推動(dòng)深度偽造內(nèi)容標(biāo)識(shí)、限制高風(fēng)險(xiǎn)功能、加強(qiáng)模型安全評(píng)估；通過(guò)公眾教育提升民眾對(duì)于性別平等和人工智能倫理的認(rèn)識(shí)。

　　此外，有國(guó)家已經(jīng)開(kāi)展了使用人工智能技術(shù)治理深度偽造的行動(dòng)。比如，利用聊天機(jī)器人為用戶實(shí)時(shí)提供報(bào)告性暴力、如何保存法醫(yī)證據(jù)等支持服務(wù)，以及利用人工智能識(shí)別和監(jiān)測(cè)技術(shù)加持的性別暴力。法國(guó)已經(jīng)開(kāi)始使用“數(shù)字保鏢”來(lái)過(guò)濾針對(duì)體育明星的網(wǎng)絡(luò)仇恨言論，研究人員正在開(kāi)發(fā)相關(guān)算法，用于識(shí)別、干預(yù)并預(yù)防技術(shù)加持的針對(duì)婦女和女童的暴力。

　　全球婦女事業(yè)實(shí)現(xiàn)高質(zhì)量發(fā)展，必定需要安全、平等、無(wú)歧視和包容的社會(huì)環(huán)境，因此，全球性別治理應(yīng)該高度重視消除技術(shù)加持的性別暴力，特別是深度偽造。這既是技術(shù)問(wèn)題，也是價(jià)值選擇問(wèn)題。只有將性別平等、人權(quán)保護(hù)和公共責(zé)任納入全球性別治理框架，人工智能才能真正服務(wù)于社會(huì)進(jìn)步，而非成為新的風(fēng)險(xiǎn)源頭。

　　（作者系北京大學(xué)國(guó)際關(guān)系學(xué)院《國(guó)際政治研究》編輯、博士）