起底AI“造黃”黑產(chǎn)：防止AI異化刻不容緩

AI技術(shù)本是推動(dòng)社會(huì)進(jìn)步的重要力量，但當(dāng)其被異化為突破法律底線、違背公序良俗的工具時(shí)，便淪為危害社會(huì)的“兇器”。

4月12日，央視財(cái)經(jīng)《財(cái)經(jīng)調(diào)查》欄目重磅曝光，一條完整的AI“造黃”、傳播淫穢色情內(nèi)容的黑色產(chǎn)業(yè)鏈在網(wǎng)絡(luò)肆意蔓延。不法分子公開兜售9.9元AI造黃教程、色情提示詞，僅憑一張照片或幾段文字，就能批量生成逼真色情擦邊視頻，還教授用戶規(guī)避監(jiān)管手段，形成“教程—提示詞—工具—變現(xiàn)”的完整閉環(huán)。

此事曝光后，全網(wǎng)一片嘩然。有網(wǎng)友怒斥：“9塊9就能毀了一個(gè)人，AI技術(shù)被用在這地方，太缺德了！”也有家長擔(dān)憂：“現(xiàn)在孩子上網(wǎng)隨處可見擦邊內(nèi)容，AI‘造黃’會(huì)嚴(yán)重毒害未成年人。”還有業(yè)內(nèi)人士直言：“技術(shù)無罪，但濫用技術(shù)作惡的人必須重罰，平臺(tái)監(jiān)管也不能缺位。”

這條藏匿于數(shù)字經(jīng)濟(jì)中的非法產(chǎn)業(yè)鏈，正以技術(shù)為兇器，不斷沖擊法律底線與公序良俗，將AI這一前沿科技異化為違法犯罪的工具，成為亟待鏟除的社會(huì)毒瘤。

AI“造黃”運(yùn)作隱蔽

在多個(gè)互聯(lián)網(wǎng)平臺(tái)上，一條圍繞AI技術(shù)的非法牟利鏈條正公開蔓延。各類教程帖子打著“AI制作美女視頻”“AI擦邊賽道日入5位數(shù)”的旗號(hào)，公然宣揚(yáng)如何通過AI技術(shù)“從無到有”制作色情擦邊內(nèi)容，將違法行徑包裝成所謂“創(chuàng)業(yè)風(fēng)口”，堂而皇之地在網(wǎng)絡(luò)空間傳播。

央視記者調(diào)查發(fā)現(xiàn)，產(chǎn)業(yè)鏈的核心環(huán)節(jié)之一，便是低價(jià)兜售所謂的“提示詞”——這些指揮AI工作的關(guān)鍵指令，直接決定了生成內(nèi)容的性質(zhì)。記者僅以9.9元和9.8元的低價(jià)，便在“萬象小店”“楠楠素材庫”等店鋪順利購得兩組提示詞。打開文件可見，提示詞對(duì)人物發(fā)型、服飾搭配，乃至腰部扭動(dòng)幅度等細(xì)節(jié)進(jìn)行了細(xì)致刻畫，商家為規(guī)避監(jiān)管，還將敏感詞匯刻意翻譯成英文，形成一套隱蔽的指令體系。

這條非法產(chǎn)業(yè)鏈的運(yùn)作形成了清晰的分工體系，呈現(xiàn)出“教程兜售—提示詞售賣—軟件生成—內(nèi)容傳播”的完整閉環(huán)。為了牟利，這些商家不僅教授制作技術(shù)，還“手把手”傳授規(guī)避監(jiān)管的套路：先將敏感詞翻譯成英文，再用“發(fā)型、腰胯扭動(dòng)幅度”等看似正常的描述替換露骨指令，使用境外圖生視頻AI軟件、將程序部署在本地電腦離線運(yùn)行等手段，徹底繞開平臺(tái)監(jiān)管。

為此，央視記者對(duì)用戶使用較多的10款A(yù)I應(yīng)用進(jìn)行了實(shí)測(cè)，發(fā)現(xiàn)如果輸入的提示詞表述過于露骨，多數(shù)AI應(yīng)用會(huì)觸發(fā)審核機(jī)制并拒絕生成內(nèi)容。然而，只要使用從商家處購買的經(jīng)過“技術(shù)處理”的提示詞，便有可能輕松繞過限制。

在一款名為“哩布哩布A”的應(yīng)用中，記者輸入購買的提示詞后，僅僅幾分鐘，平臺(tái)就生成了一個(gè)半裸身體的女性跳舞視頻，全程未觸發(fā)任何限制機(jī)制。這表明，盡管各大平臺(tái)設(shè)有安全護(hù)欄，但在面對(duì)精心設(shè)計(jì)的“對(duì)抗性提示詞”時(shí)，現(xiàn)有的審核技術(shù)仍存在明顯的盲區(qū)。

值得注意的是，這條非法產(chǎn)業(yè)鏈的觸角還延伸至“虛擬陪伴”領(lǐng)域。部分境外AI聊天軟件無法通過國內(nèi)應(yīng)用商店正常下載，但在社交平臺(tái)上，“可開車、無限制詞”的暗語帖子隨處可見，下載鏈接和邀請(qǐng)碼在用戶間隱秘傳播。

除了利用正規(guī)AI平臺(tái)的漏洞，市場(chǎng)上更出現(xiàn)了專門靠AI生成色情視頻牟利的非法軟件。根據(jù)消費(fèi)者舉報(bào)，央視記者找到了一款號(hào)稱免下載、能快速“換臉”的軟件。購買者只要愿意付費(fèi)，軟件就可以通過一張圖片，生成全裸照片和色情視頻。這類軟件往往通過隱蔽的渠道傳播，明碼標(biāo)價(jià)，如“10元一張圖、1元一秒視頻”，其生成的內(nèi)容高度逼真，幾乎難以分辨真假。

產(chǎn)業(yè)鏈起底

從央視報(bào)道來看，AI“造黃”違法犯罪行為猖獗，為了牟利，不法分子幾乎無所不用。產(chǎn)業(yè)鏈已形成“上中下游”的明確分工和一定規(guī)模，操作模式更是呈現(xiàn)出專業(yè)化、隱蔽化、成熟化的特點(diǎn)。

在產(chǎn)業(yè)鏈上游，不法分子通過非法渠道獲取大量普通人，尤其是女性的面部照片和身體數(shù)據(jù)。這些照片可能來自被黑客攻擊的個(gè)人社交賬號(hào)、在網(wǎng)絡(luò)上公開但被惡意收集的生活照，甚至是經(jīng)過偽造合成的圖像。

中游的技術(shù)操作者則利用開源的或經(jīng)過簡單修改的深度偽造（Deepfake）等AI換臉、圖像生成技術(shù)，將獲取來的正常肖像與淫穢視頻中的人物面部進(jìn)行替換，或者直接通過文本描述生成極為逼真的虛假色情圖片與視頻。

近期，AI“換臉”技術(shù)濫用問題集中爆發(fā)，從演藝、體育明星到政商人士，乃至普通人，均有可能成為受害者。日前，紅果短劇發(fā)布“違反平臺(tái)治理規(guī)范的處理聲明”，宣布對(duì)因AI侵權(quán)引發(fā)輿論關(guān)注的短劇《桃花簪》全面下架，此前有網(wǎng)友指控該劇未經(jīng)授權(quán)使用其個(gè)人肖像，借助AI技術(shù)生成反派角色，涉嫌“盜臉”侵權(quán)。

當(dāng)普通人的肖像可能成為下一個(gè)被濫用的目標(biāo)，AI 肆意換臉，正在成為一場(chǎng)肆無忌憚的數(shù)字霸凌和“造黃”幫兇。據(jù)不完全統(tǒng)計(jì)，僅今年前3個(gè)月，就已發(fā)生數(shù)十起演員及影視從業(yè)者針對(duì)AI短劇的公開維權(quán)事件，而針對(duì)普通人的肖像侵權(quán)案件更是不計(jì)其數(shù)。

AI換臉本是一項(xiàng)創(chuàng)新技術(shù)，本可以成為科技向善的典型，然而現(xiàn)實(shí)是在追逐流量和非法利益的不良氛圍中逐漸變味，異化為“數(shù)字扒皮”的工具。

在下游的傳播與牟利環(huán)節(jié)，不法分子則通過境內(nèi)外各種加密通訊軟件、小眾社交平臺(tái)、色情網(wǎng)站甚至是一些打著“AI繪畫交流”幌子的社群進(jìn)行銷售與傳播，形成了包括定制、批發(fā)、會(huì)員制付費(fèi)觀看等多種盈利模式。

更令人擔(dān)憂的是，這些黃色內(nèi)容往往通過精準(zhǔn)的算法推薦獲得更廣泛的傳播，形成了一個(gè)難以打破的惡性循環(huán)。

治理：強(qiáng)化法律震懾完善監(jiān)管體系

治理“AI造黃”亂象需要多方協(xié)同、綜合治理。

首先，技術(shù)平臺(tái)應(yīng)承擔(dān)起主體責(zé)任，加強(qiáng)內(nèi)容審核，利用AI技術(shù)識(shí)別AI生成的違規(guī)內(nèi)容，建立便捷的侵權(quán)投訴與處理通道。其次，AI工具和模型的開發(fā)者也應(yīng)加強(qiáng)倫理設(shè)計(jì)，在開源或提供服務(wù)時(shí)嵌入必要的使用協(xié)議和技術(shù)防護(hù)，防止模型被輕易濫用。

對(duì)于公眾而言，提高數(shù)字素養(yǎng)和安全意識(shí)至關(guān)重要，需謹(jǐn)慎在網(wǎng)絡(luò)上分享包含清晰人臉和身體特征的照片，學(xué)會(huì)識(shí)別深度偽造內(nèi)容的常見破綻。最重要的是，司法機(jī)關(guān)需加大對(duì)這類新型網(wǎng)絡(luò)犯罪的打擊力度，形成震懾，并不斷完善針對(duì)深度偽造等技術(shù)的司法鑒定標(biāo)準(zhǔn)和取證規(guī)范。

當(dāng)前，我國在相關(guān)領(lǐng)域的法律監(jiān)管正在迅速跟進(jìn)。《民法典》明確了對(duì)肖像權(quán)、名譽(yù)權(quán)的保護(hù)。新修訂的《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》以及《關(guān)于查處利用AI生成內(nèi)容進(jìn)行違法犯罪活動(dòng)的指導(dǎo)意見》等法律法規(guī)和政策文件，都為打擊此類行為提供了法律依據(jù)。對(duì)于制作、傳播淫穢物品牟利的行為，刑法中有明確的罪名予以懲處。然而，面對(duì)技術(shù)快速迭代、犯罪手段翻新、跨境取證困難等現(xiàn)實(shí)挑戰(zhàn)，監(jiān)管與執(zhí)法仍需不斷升級(jí)。

此前，中央網(wǎng)信辦精準(zhǔn)部署“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，明確將利用AI制作發(fā)布色情低俗內(nèi)容列為重點(diǎn)整治對(duì)象，全面壓實(shí)平臺(tái)主體責(zé)任。2026年4月，國家網(wǎng)信辦等五部門聯(lián)合出臺(tái)《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》，并明確該辦法自2026年7月15日起施行，從制度層面為AI技術(shù)應(yīng)用劃定紅線，涵蓋算法備案、未成年人保護(hù)等關(guān)鍵領(lǐng)域，為監(jiān)管工作提供了堅(jiān)實(shí)的制度保障。

工業(yè)和信息化部等十部門近日也聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》，提出支持人工智能科技倫理審查技術(shù)創(chuàng)新，強(qiáng)化以技術(shù)手段防范人工智能科技倫理風(fēng)險(xiǎn)。

盡管監(jiān)管持續(xù)收緊，但技術(shù)與規(guī)則的博弈仍在繼續(xù)。被央視點(diǎn)名的多款A(yù)I應(yīng)用中，不乏用戶量過億的頭部產(chǎn)品，這些平臺(tái)并非沒有審核機(jī)制，而是面對(duì)“把腰部曲線描述為S型弧度”這類隱晦提示詞時(shí)，系統(tǒng)難以識(shí)別弦外之音，或是存在監(jiān)管漏洞。這種技術(shù)漏洞與規(guī)則滯后，讓不法分子始終抱有僥幸心理，不斷試圖通過“抄近道”的方式突破監(jiān)管，與監(jiān)管形成持續(xù)的對(duì)抗。

唯有持續(xù)強(qiáng)化法律震懾、完善監(jiān)管體系、壓實(shí)平臺(tái)責(zé)任、提升技術(shù)識(shí)別能力，才能讓AI技術(shù)回歸正途，斬?cái)喾欠óa(chǎn)業(yè)鏈的生存空間，守護(hù)清朗健康的網(wǎng)絡(luò)生態(tài)與社會(huì)環(huán)境。

（經(jīng)濟(jì)觀察網(wǎng) 李強(qiáng)/文）

免責(zé)聲明：本文觀點(diǎn)僅代表作者本人，供參考、交流，不構(gòu)成任何建議。