人工智能技術(shù)迅速發(fā)展,隨之而來(lái)是AI換臉技術(shù)濫用問(wèn)題也日益突出,此前有多位名人肖像頻遭盜用,成為主要受害群體。
談及如何應(yīng)對(duì)AI虛假換臉,全國(guó)政協(xié)委員、香港著名演員甄子丹4日下午對(duì)中新社記者表示,“詐騙必須要報(bào)警,我們是法律的國(guó)家,各種違法的東西我們都可以去投訴報(bào)警。”
另?yè)?jù)瀟湘晨報(bào),全國(guó)政協(xié)委員靳東4日也回應(yīng)了AI換臉亂象,他表示AI換臉技術(shù)不只是用在短劇,很多人也因?yàn)锳I換臉遭遇網(wǎng)絡(luò)詐騙。靳東稱(chēng)AI正從多方面影響影視創(chuàng)作,自己也正在學(xué)習(xí)AI,不論未來(lái)AI對(duì)行業(yè)產(chǎn)生何種效果,都得主動(dòng)去學(xué)習(xí),去掌握。
多位名人被AI假冒
利用AI假冒名人來(lái)帶貨等的現(xiàn)象已屢見(jiàn)不鮮。
今年2月26日,演員王勁松曾發(fā)文稱(chēng)自己的形象被AI盜用生成視頻:太可怕了,視頻。聲音,口型完全看不出來(lái)真假。
![]()
隨后,他在評(píng)論區(qū)曬出投訴截圖并表示相關(guān)視頻已刪除。
![]()
2025年6月,北京市海淀區(qū)市場(chǎng)監(jiān)管局查處了某公司利用AI技術(shù)冒用央視知名主持人名義和形象的虛假?gòu)V告案。通報(bào)稱(chēng),有消費(fèi)者舉報(bào),北京某公司通過(guò)視頻賬號(hào)宣傳所銷(xiāo)售的“深海多烯魚(yú)油”能夠治療多種疾病,涉嫌虛假宣傳。在宣傳的直播中還出現(xiàn)了央視主持人李梓萌的形象。調(diào)查結(jié)果顯示,該公司銷(xiāo)售的深海多烯魚(yú)油產(chǎn)品實(shí)際執(zhí)行標(biāo)準(zhǔn)為糖果,屬于普通食品,不具備疾病治療功能。另一方面,經(jīng)鑒定,視頻中的主持人形象完全是利用AI技術(shù)偽造生成。該公司違反了《中華人民共和國(guó)廣告法》相關(guān)規(guī)定,已接受行政處罰。
![]()
演員溫崢嶸也曾自曝深受其害。溫崢嶸在去年4月就發(fā)現(xiàn)自己被AI盜播,同一時(shí)段現(xiàn)身多個(gè)直播間帶貨不同產(chǎn)品,本尊上前質(zhì)問(wèn)竟被秒拉黑,直言“很難證明我是我”。此后她多次在直播中強(qiáng)調(diào)“自己不是AI”,賬號(hào)主頁(yè)也標(biāo)注“除了本賬號(hào)直播其他賬號(hào)均為假冒”,并呼吁粉絲甄別真?zhèn)巍⒓皶r(shí)投訴舉報(bào)假冒內(nèi)容。
![]()
去年4月,演員張馨予發(fā)布微博稱(chēng),發(fā)現(xiàn)有品牌用AI復(fù)制聲音的方式,未經(jīng)授權(quán)剪輯投放減肥廣告,偽造出她為某款減肥產(chǎn)品代言的假象。
同年8月,還有博主利用AI克隆奧運(yùn)冠軍全紅嬋的聲音推銷(xiāo)土雞蛋。孫穎莎、王楚欽同樣遭遇了聲音被“克隆”后直播帶貨的境況。
![]()
![]()
還有商家偽造劉濤、張柏芝、舒淇等多位明星的AI形象,站臺(tái)某品牌面膜,制造“眾星捧場(chǎng)”的虛假營(yíng)銷(xiāo)場(chǎng)面。
利用AI換臉、聲音克隆假冒公眾人物牟利,一批賬號(hào)被處置
就在春節(jié)假期前夕,網(wǎng)信部門(mén)曾集中通報(bào)一批網(wǎng)絡(luò)賬號(hào)被處置的消息。
通報(bào)中提到:微信賬號(hào)“浮萍9419”、微博賬號(hào)“乘風(fēng)已歸來(lái)”、快手賬號(hào)“東東情感”等,以AI換臉、聲音克隆等方式,假冒運(yùn)動(dòng)員、演員、主持人、企業(yè)家等公眾人物,發(fā)布不實(shí)言論,借此吸粉引流,或未經(jīng)授權(quán),售賣(mài)AI生成的公眾人物“送祝福”“拜年”等視頻,從中不當(dāng)牟利。相關(guān)賬號(hào)已被依法依約處置。
3月2日,微信珊瑚安全發(fā)布公告:近期,微信平臺(tái)發(fā)現(xiàn)部分違規(guī)賬號(hào)利用AI技術(shù)仿冒名人,通過(guò)偽造其形象、聲音進(jìn)行違規(guī)引流或虛假宣傳。此類(lèi)行為不僅嚴(yán)重侵害當(dāng)事人合法權(quán)益,也易誤導(dǎo)和欺騙廣大用戶(hù)。為進(jìn)一步維護(hù)網(wǎng)絡(luò)空間秩序,保護(hù)用戶(hù)與公眾人物合法權(quán)益,平臺(tái)結(jié)合用戶(hù)舉報(bào)、日常巡查及技術(shù)識(shí)別,已第一時(shí)間對(duì)相關(guān)違規(guī)內(nèi)容及賬號(hào)進(jìn)行從嚴(yán)處置。近期,微信平臺(tái)累計(jì)處置此類(lèi)仿冒違規(guī)內(nèi)容1.3萬(wàn)余條,處置違規(guī)賬號(hào)1200余個(gè)。典型案例如下:
![]()
AI視頻可能觸犯哪些法條?律師解讀
《法治日?qǐng)?bào)》律師專(zhuān)家?guī)斐蓡T、北京市康達(dá)律師事務(wù)所合伙人羅娟表示,濫用AI換臉、聲音克隆主要涉及民法典第一千零一十八條(肖像權(quán)保護(hù))、第一千零二十四條(名譽(yù)權(quán)保護(hù))。未經(jīng)同意商用他人肖像、聲音,直接侵犯肖像權(quán);若生成內(nèi)容虛假誤導(dǎo)(如虛假代言、不當(dāng)言論),會(huì)損害他人名譽(yù)權(quán)。
來(lái)源:中國(guó)新聞網(wǎng)、瀟湘晨報(bào)、王勁松微博、北京市海淀區(qū)市場(chǎng)監(jiān)管局、央視新聞、網(wǎng)信中國(guó)、微信珊瑚安全、法治周末報(bào)
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.