知名平臺(tái)宣布：全面下架

“我就是一個(gè)很普通的人，我沒(méi)有想到有一天AI侵權(quán)會(huì)侵到我臉上來(lái)。”

近日，網(wǎng)友“白菜”在社交媒體平臺(tái)發(fā)文稱，一部名為《桃花簪》的AI短劇在未經(jīng)他允許的情況下擅自使用了他的形象作為劇中角色，引發(fā)了大眾關(guān)注，“AI短劇 偷臉”話題也迅速登上微博熱搜。

白菜發(fā)文稱《桃花簪》侵犯其肖像權(quán)。

4月3日下午，紅果短劇官方也發(fā)布對(duì)《桃花簪》違反平臺(tái)治理規(guī)范的處理聲明，稱認(rèn)定出品方違反相關(guān)內(nèi)容合規(guī)使用規(guī)定，構(gòu)成違規(guī)違約，全面下架《桃花簪》，并暫停該出品方上傳所有劇集15天。

紅果短劇聲明。

伴隨AIGC技術(shù)的迅速發(fā)展，微短劇行業(yè)也乘著AI熱潮加足馬力，讓AI短劇成為了行業(yè)新風(fēng)口。然而，盜臉、盜聲等侵權(quán)亂象也頻頻發(fā)生，不管是公眾人物還是普通人，都可能被侵犯權(quán)益。

AI短劇“偷臉”是有意為之還是技術(shù)bug？被侵權(quán)該如何維權(quán)？南都娛樂(lè)采訪當(dāng)事人和行業(yè)人士，解析AI短劇“盜臉”亂象。

普通人被“盜臉”

變成短劇“丑角”

3月30日，白菜收到了好友發(fā)來(lái)的截圖，說(shuō)一部AI短劇中有一個(gè)角色跟他長(zhǎng)得幾乎一模一樣。

白菜發(fā)現(xiàn)，這部AI短劇《桃花簪》里有一個(gè)叫“劉大”的角色，無(wú)論是五官、造型還是妝容，都與自己去年1月發(fā)布的一組唐風(fēng)漢服寫真高度相似。

“劉大”與白菜發(fā)布的寫真高度相似。

更讓白菜生氣的是，這個(gè)跟自己長(zhǎng)相酷似的“劉大”在劇中是一個(gè)曾經(jīng)騷擾過(guò)主角的“猥瑣男”，還被主角用“爛泥地里的矮倭瓜”“歪嘴破痰盂”等侮辱性詞語(yǔ)指著鼻子罵。

“我平常生活上比較積極陽(yáng)光，原來(lái)發(fā)的照片也是想傳達(dá)這種感覺(jué)，到那個(gè)劇里就成了又矮又丑、猥瑣齷齪的這種人，人設(shè)很差，我覺(jué)得挺生氣的。”

“劉大”在劇中被辱罵。

此外，模特七海也發(fā)布視頻稱自己的肖像被該短劇盜用。

在視頻中，七海稱《桃花簪》中“何掌柜”一角與自己在2024年創(chuàng)作的“痣是美貌的點(diǎn)綴”視頻形象高度重合。與白菜的遭遇類似，和七海相似的“何掌柜”同樣是一個(gè)被丑化的角色。

從社交平臺(tái)展示的內(nèi)容來(lái)看，在現(xiàn)實(shí)生活中，七海是參與過(guò)多個(gè)商拍項(xiàng)目的模特，不僅熱心助力女性公益，也積極參與動(dòng)物保護(hù)活動(dòng)，而在劇中，“何掌柜”不僅面容受損，還是一個(gè)虐待動(dòng)物的雌競(jìng)女。在七海看來(lái)，這是對(duì)她人格的精準(zhǔn)抹黑。

模特七海也稱自己被《桃花簪》“盜臉”。

同一部劇接連出現(xiàn)“撞臉”事件，在白菜看來(lái)，這很難用巧合來(lái)解釋。他告訴南都娛樂(lè)，在得知自己被“盜臉”的第一時(shí)間就已經(jīng)在播放平臺(tái)上進(jìn)行了投訴舉報(bào)，也已經(jīng)交由律師進(jìn)行進(jìn)一步的維權(quán)。

白菜保存的截圖顯示，AI短劇《桃花簪》的發(fā)布方是友和旗下的有趣動(dòng)漫劇場(chǎng)，南都娛樂(lè)搜索發(fā)現(xiàn)其認(rèn)證公司為成都微麻微辣文化傳播有限公司。天眼查信息顯示，該公司法人名為“智生生”，南都娛樂(lè)嘗試聯(lián)系對(duì)方，截至發(fā)稿未獲回復(fù)。

白菜保存的截圖。

白菜向南都娛樂(lè)表示，他的代理律師已經(jīng)與友和進(jìn)行溝通，對(duì)方就“撞臉”給出的解釋是“AI算法出錯(cuò)”，并表示并未通過(guò)該短劇取得經(jīng)濟(jì)收入，但白菜對(duì)該說(shuō)法并不接受。“我是不接受這種理由的，畢竟它收藏量有兩萬(wàn)，熱度有四千多萬(wàn)。”

在網(wǎng)絡(luò)發(fā)布帖子之后，白菜發(fā)現(xiàn)《桃花簪》已經(jīng)把他的形象進(jìn)行了替換，他作為普通人疑似被短劇“盜臉”的遭遇也引起了大眾的熱烈討論，有自稱是制作方的網(wǎng)友通過(guò)小紅書私信他，但白菜對(duì)此持懷疑態(tài)度。

他告訴南都娛樂(lè)，自己維權(quán)的訴求有三條。“第一是要索賠經(jīng)濟(jì)賠償，第二肯定是要求你下架我的有關(guān)畫面，再有就是要公開給我道歉。”他補(bǔ)充，“當(dāng)然后話如果說(shuō)能夠推動(dòng)這方面的監(jiān)管，作為一個(gè)公民，我覺(jué)得是一件挺有榮譽(yù)的事。”

故意盜用還是技術(shù)問(wèn)題？

理論上都有可能

制作方給出的解釋是“AI算法出錯(cuò)”，白菜很難接受，因?yàn)閯≈械男蜗髱缀跏峭耆瞻崃怂膶懻嬲掌＞烤故枪室獗I用還是技術(shù)出錯(cuò)？結(jié)果需要交由司法機(jī)關(guān)在后續(xù)審理中進(jìn)一步判斷，但可以確定的是，“盜臉”行為并不代表所有從業(yè)者，至少在AI短劇行業(yè)內(nèi)，未經(jīng)授權(quán)使用他人形象來(lái)生成角色是不被允許的。

AI短劇導(dǎo)演黃先生告訴南都娛樂(lè)，人物形象的生成通常有一套完備的固定流程。“你可以理解為這個(gè)劇本角色有自己的人設(shè)，我們把人設(shè)以文本的形式摘出來(lái)，放到一個(gè)文生圖模型中生成人物形象，再把它摘出來(lái)拆分成三視圖。”黃先生表示，正常情況下，角色形象都是AI模型從0到1直接生成，不會(huì)使用他人照片來(lái)模擬。對(duì)于熟練使用AI模型的從業(yè)者來(lái)說(shuō)，不考慮真人肖像授權(quán)費(fèi)用的情況下，根據(jù)指令直接生成形象要比用真人照片生成形象更加省時(shí)，算力成本相差也不大。

當(dāng)然，在制作AI短劇時(shí)，并不會(huì)每一個(gè)角色都設(shè)計(jì)得如此精細(xì)。對(duì)于一些次要角色，常見(jiàn)的手段是輸入關(guān)鍵詞直接讓AI生成。黃先生解釋，AI生成相當(dāng)于一個(gè)數(shù)據(jù)庫(kù)調(diào)用，把一萬(wàn)張、十萬(wàn)張甚至是一億張人臉?lè)旁跀?shù)據(jù)庫(kù)里，根據(jù)提示詞生成一個(gè)集合了幾個(gè)特征的一張人臉。如果在這個(gè)過(guò)程中，視頻模型本身就把別人的形象放置在數(shù)據(jù)庫(kù)，制作方在不知情的情況下使用也有可能。

“因?yàn)槲覀冏鳛橹谱鞣皆谑褂靡曨l模型的時(shí)候，就是獲得了商用許可的，既然我能生成出來(lái)，那這個(gè)東西我就是可以商用的。”黃先生補(bǔ)充，即便是純AI生成的情況，理論上也不是完全沒(méi)有“撞臉”的可能，因?yàn)椤笆澜缟嫌袔资畠|人，如果跑出來(lái)的人臉和一個(gè)人特別像，也不奇怪”。

他反對(duì)用真人照片直接生成形象。“如果我真的覺(jué)得某個(gè)人的妝造特別好，我真的特別想用，我們會(huì)下載他的照片，但肯定不會(huì)直接放到AI去生成。”黃先生認(rèn)為，可以有一定的借鑒參考，但不能直接使用他人形象，“我會(huì)把照片放到AI去反推，如果想生成類似的人需要什么樣的提示詞，但只要去試過(guò)就會(huì)發(fā)現(xiàn)，它出來(lái)的造型和風(fēng)格會(huì)有很大的差別，服裝、顏色、妝容和體態(tài)都會(huì)有不同。”

事發(fā)后，《桃花簪》替換了“劉大”的形象。

對(duì)于白菜和七海的遭遇，黃先生表示，目前AI短劇行業(yè)魚龍混雜，不排除有人用他人照片來(lái)生成角色形象，甚至是惡意扭曲的情況。“如果覺(jué)得這個(gè)博主的造型挺好，也符合他的劇情，直接拿來(lái)用也是有可能的。”他承認(rèn)，如果是初涉足行業(yè)，對(duì)AI模型的使用不甚了解的人，用真人照片直接生成形象雖然有違規(guī)風(fēng)險(xiǎn)，的確更加省時(shí)、省力、省錢。“AIGC它只是一個(gè)工具，它就像一把菜刀一樣，它可以用來(lái)切菜，也可以用來(lái)殺人，只是看使用者對(duì)它的用效在哪里。”

《桃花簪》截圖。

黃先生強(qiáng)調(diào)，用真人照片生成形象不僅在行業(yè)內(nèi)被默認(rèn)違規(guī)，目前市面上的閉源模型對(duì)此行為的管理也比較嚴(yán)格。“（用真人照片）會(huì)直接不讓生成。”如果遇到需要使用真人形象的情況，制作方需要先拿到該真人的個(gè)人肖像權(quán)許可，進(jìn)行白名單報(bào)備，才能找AI模型的工作人員去進(jìn)行操作。

但開源模型對(duì)此的監(jiān)管會(huì)更難實(shí)現(xiàn)。“開源的話就相當(dāng)于你在電腦里面裝了一個(gè)AI視頻模型。但你怎么用模型公司是管不著的，也監(jiān)控不了。”黃先生說(shuō)，“這樣就不好說(shuō)了，實(shí)際上你可以用來(lái)干啥都行。”

維權(quán)不是個(gè)例

名人、普通人各有痛點(diǎn)

AI形象侵權(quán)事件早已不是個(gè)例。此前南都曾報(bào)道過(guò)，水哥王昱珩被AI侵權(quán)其形象用于帶貨，也有媒體報(bào)道過(guò)AI短劇《鮫珠引》疑似盜用攝影師原創(chuàng)作品的模特形象與妝造。

“我就是一個(gè)很普通的人，我沒(méi)有想到有一天AI侵權(quán)會(huì)侵到我臉上來(lái)。”經(jīng)此一事，白菜對(duì)于AI技術(shù)的過(guò)度使用也產(chǎn)生了一些擔(dān)憂。他的那組寫真照貼文此前閱讀量并不高，點(diǎn)贊數(shù)量也只有二三十，算不上熱門內(nèi)容。“我只在小紅書和朋友圈里面發(fā)過(guò)這些東西，我也沒(méi)有在其他平臺(tái)發(fā)過(guò)，那我都能夠被侵權(quán)成這樣，那其他人呢？”

某種程度上，他對(duì)于明星藝人形象被侵權(quán)也感同身受，但也更加覺(jué)得后怕，“像我這種普通人維權(quán)太難了。恰巧我有愛(ài)刷短劇的朋友刷到了，如果沒(méi)刷到呢？那我是不是在別人心里面形象就是又矮又丑又猥瑣的這種形象？而且我已經(jīng)是受過(guò)教育、熟悉互聯(lián)網(wǎng)的人，換做是其他不懂互聯(lián)網(wǎng)的普通人，比如說(shuō)我們的父輩，他們?cè)撛趺崔k？”

從維權(quán)角度來(lái)看，不管是名人還是普通人，被AI盜臉都屬于肖像權(quán)被侵犯。海潤(rùn)天睿律師事務(wù)所高級(jí)合伙人、文化娛樂(lè)與傳媒業(yè)務(wù)部主任楊曙光向南都娛樂(lè)表示，近年來(lái)自己也接到過(guò)一些客戶咨詢相關(guān)問(wèn)題。“如果說(shuō)主張權(quán)利，你要向?qū)Ψ秸f(shuō)你用的是我的臉，這個(gè)證明需要一定的難度，但不是說(shuō)很難。”

在他看來(lái)，公眾人物具有更高的商業(yè)價(jià)值，被侵權(quán)的現(xiàn)象也更加普遍，但對(duì)于普通人來(lái)說(shuō)，因?yàn)槿狈ο衩四敲锤叩谋孀R(shí)度，也可能更難認(rèn)定甚至是發(fā)現(xiàn)侵權(quán)。

某AI短劇曾被發(fā)現(xiàn)疑似“盜臉”演員羅云熙，現(xiàn)已更改形象。

“你向法院起訴，法院看這張AI的臉確實(shí)跟明星近似度非常高，包括這個(gè)AI說(shuō)話的聲音語(yǔ)氣都跟本人很像的情況下，就容易認(rèn)定侵權(quán)。但普通人只有自己看到或者說(shuō)極熟悉的人看到，有可能會(huì)意識(shí)到這個(gè)臉跟你很像。”楊曙光表示，AI技術(shù)目前還沒(méi)有達(dá)到百分之百擬真，對(duì)法官來(lái)說(shuō)判斷難度也不小，但如果服裝、妝容等細(xì)節(jié)都具有高度相似性，認(rèn)定侵權(quán)的概率有時(shí)候也會(huì)高一些。

他告訴南都娛樂(lè)，目前明星被AI盜臉更讓人頭疼的問(wèn)題在于“大雜燴”，“把一堆的明星的臉捏到一塊，看著誰(shuí)都不像”。“這是個(gè)灰色地帶，沒(méi)有明顯界定，大家都會(huì)認(rèn)為侵權(quán)，但是需要案例，如果有一個(gè)案子法院認(rèn)定了，那大家就知道規(guī)則在哪了。現(xiàn)在只能說(shuō)我們認(rèn)為侵權(quán)，但是不是真的侵權(quán)，還需要相關(guān)的司法部門去鑒定或主管部門去鑒定。”

行業(yè)呼吁

合理合規(guī)使用AI

AI短劇發(fā)展勢(shì)頭正猛，如何合理合法使用AI，規(guī)避侵權(quán)現(xiàn)象，需要各方共同努力。

南都此前報(bào)道過(guò)，比起AI換臉技術(shù)迅猛發(fā)展的速度，現(xiàn)行法律法規(guī)相對(duì)滯后。華南師范大學(xué)法學(xué)院教授、廣東省人工智能法律應(yīng)用重點(diǎn)實(shí)驗(yàn)室主任、華南師范大學(xué)人工智能法律應(yīng)用研究中心主任王燕玲向南都記者表示，《中華人民共和國(guó)民法典》雖然對(duì)肖像權(quán)、名譽(yù)權(quán)等進(jìn)行了較為詳細(xì)的規(guī)定，但并未專門針對(duì)AI換臉等新技術(shù)的應(yīng)用進(jìn)行規(guī)范。

因此，行業(yè)規(guī)范和監(jiān)督也顯得尤為重要。4月2日，中國(guó)廣播電視社會(huì)組織聯(lián)合會(huì)演員委員會(huì)發(fā)布嚴(yán)正聲明，強(qiáng)調(diào)凡可關(guān)聯(lián)特定公眾演員的AI“撞臉”、仿聲演繹、換臉短劇、商業(yè)植入、虛擬人復(fù)刻、素材二創(chuàng)改編等侵權(quán)內(nèi)容，即便標(biāo)注“非商用”“公益分享”“個(gè)人二創(chuàng)”等字樣，也不構(gòu)成合法免責(zé)依據(jù)，相關(guān)主體仍需承擔(dān)全部侵權(quán)責(zé)任。

中國(guó)廣播電視社會(huì)組織聯(lián)合會(huì)演員委員會(huì)聲明。

同時(shí)，短視頻、直播、影視分發(fā)等網(wǎng)絡(luò)平臺(tái)被要求嚴(yán)格落實(shí)內(nèi)容審核主體責(zé)任，建立健全AI演藝內(nèi)容授權(quán)核驗(yàn)機(jī)制。AI技術(shù)研發(fā)及服務(wù)平臺(tái)則需強(qiáng)化前置審核義務(wù)，嚴(yán)格核驗(yàn)相關(guān)素材授權(quán)資質(zhì)。演員委員會(huì)表示，將啟動(dòng)全網(wǎng)常態(tài)化侵權(quán)監(jiān)測(cè)、公證固證及批量維權(quán)行動(dòng)。

對(duì)于《桃花簪》的“AI盜臉”，相關(guān)播出平臺(tái)回復(fù)南都娛樂(lè)稱，平臺(tái)已第一時(shí)間做了核查和處置：相關(guān)AI短劇為第三方制作公司上傳。平臺(tái)已要求制作公司修改、刪除相關(guān)侵權(quán)內(nèi)容；對(duì)于多次有主觀故意侵權(quán)情形的制作方，平臺(tái)將視情節(jié)予以處罰。

該平臺(tái)介紹，AI短劇作為新生業(yè)態(tài)侵權(quán)識(shí)別難度大，平臺(tái)會(huì)努力提高審核能力。對(duì)于部分肖像權(quán)侵權(quán)情形，界定是否有授權(quán)、是否尊重了個(gè)人出鏡意愿較為困難；且動(dòng)態(tài)生成的短劇內(nèi)容中，人物會(huì)伴隨表情、場(chǎng)景切換，面部持續(xù)變化，平臺(tái)難以在審核階段進(jìn)行精準(zhǔn)識(shí)別攔截。平臺(tái)也表示，歡迎權(quán)利人和用戶舉報(bào)監(jiān)督，一經(jīng)確認(rèn)會(huì)第一時(shí)間處理。

4月3日下午，紅果短劇官方也發(fā)布對(duì)《桃花簪》違反平臺(tái)治理規(guī)范的處理聲明，稱認(rèn)定出品方違反相關(guān)內(nèi)容合規(guī)使用規(guī)定，構(gòu)成違規(guī)違約，全面下架《桃花簪》，并暫停該出品方上傳所有劇集15天。

紅果短劇聲明。

制作方的自律也必不可少。楊曙光告訴南都娛樂(lè)，現(xiàn)在已經(jīng)有制作公司會(huì)和一些小演員、群演或者普通人簽訂授權(quán)協(xié)議，合理合法地使用其肖像權(quán)。在他的設(shè)想中，影視行業(yè)最好能建立一個(gè)成熟的經(jīng)授權(quán)的AI肖像素材庫(kù)，可以讓制作方來(lái)使用。這樣一來(lái)，如果有人使用了未經(jīng)授權(quán)的素材內(nèi)容，需要自證來(lái)源。“如果你沒(méi)有授權(quán)的情況下，你要去自證肖像的來(lái)源是什么。如果法律是這么制定的話，相對(duì)來(lái)說(shuō)就好約束一些。”

作為從業(yè)者，黃先生認(rèn)為應(yīng)該守好底線。他表示，在閉源模型中，不僅技術(shù)平臺(tái)會(huì)有監(jiān)管，自證也不難實(shí)現(xiàn)，因?yàn)橹谱鞣降牧鞒淌橇艉鄣摹！叭绻谱鞣讲皇菒阂獾模C明自己是怎么去生成這個(gè)形象的，他是能拿得出這個(gè)過(guò)程的證據(jù)的。”

南方都市報(bào)（nddaily）報(bào)道

南都N視頻記者 余曉宇 實(shí)習(xí)生 張睿思