北京
在抖音上看到了一個(gè)AI生成的虛構(gòu)人物帶貨短視頻，還挺有意思，底下的評(píng)論也都在玩梗。
大家默契地玩梗，都知道嫦娥本就是神話傳說(shuō)人物，壓根不存在，帶貨的只是用AI生成的假象。
但假如有人用還在世的名人，特別是網(wǎng)上很有名、有不少粉絲的網(wǎng)紅，這些人的形象生成AI視頻帶貨，又該怎么辦呢？
比起壓根就沒(méi)有留下形象的嫦娥，現(xiàn)在的網(wǎng)紅名人留下可供AI創(chuàng)作的素材特別多，面孔身材動(dòng)作聲音都有，微表情都能用AI模仿到位，說(shuō)話語(yǔ)音口氣現(xiàn)在也可以用聲音大模型模仿，做起來(lái)不僅毫無(wú)困難，還非常逼真。
我能想到的，肯定是網(wǎng)上都用爛的套路了，這種AI偽造名人視頻帶貨數(shù)量之多，被偽造的名人都不勝其煩了。
早在幾個(gè)月以前，短視頻平臺(tái)就有AI合成奧運(yùn)冠軍全紅嬋及其家人的帶貨視頻，從長(zhǎng)相到聲音都和其本人非常相似，帶貨農(nóng)產(chǎn)品貨值也較低。這類帶貨視頻多到讓全紅嬋家人心煩，與此同時(shí)消費(fèi)者被騙也不好追究，鉆了個(gè)大空子，以至于人民日?qǐng)?bào)官方微博都下場(chǎng)點(diǎn)名這種虛假利用AI欺騙消費(fèi)者的行為。
虛假AI名人行騙，這種事情可不是只蒙騙國(guó)內(nèi)老實(shí)人，放在國(guó)外更厲害，最近國(guó)外有件事，簡(jiǎn)直就是在關(guān)公面前耍了一套漂亮刀法還全身而退，令人拍案叫絕。
幾天前的英偉達(dá)GPU技術(shù)大會(huì)，黃仁勛的演講自然得到了科技圈內(nèi)部的關(guān)注，在這場(chǎng)高峰時(shí)有十萬(wàn)人觀看的直播中，黃仁勛竟然在臺(tái)上聲稱“有個(gè)加密貨幣大規(guī)模普及活動(dòng)，直接契合英偉達(dá)加速人類進(jìn)步的使命”。
他還亮出了二維碼，鼓勵(lì)觀眾掃碼以發(fā)送加密貨幣。
直播看到這里的眾人必然目瞪口呆，可能會(huì)有人覺(jué)得“黃仁勛這么做一定有他的道理”，掏出手機(jī)掃了碼，但肯定有人自我懷疑，是自己喝大了還是受騙了。
覺(jué)得自己受騙了的，恭喜你答對(duì)了，因?yàn)檫@本來(lái)就是AI偽造的黃仁勛形象，和真正的黃仁勛演講同步放出，用來(lái)欺騙觀眾，騙他們投資數(shù)字貨幣的。
真正的黃仁勛直播沒(méi)提投資數(shù)字貨幣，但真正的黃仁勛直播只有2萬(wàn)多人觀看，李逵的關(guān)注度竟然遠(yuǎn)遠(yuǎn)小于李鬼。
騙子用著黃仁勛的芯片，制作了黃仁勛的AI形象騙人，觀看量竟然比正牌黃仁勛多很多，真是個(gè)黑色幽默。
這事可真是大大助長(zhǎng)騙子的囂張氣焰，在黃仁勛頭上動(dòng)土都沒(méi)事，仿冒其他名人網(wǎng)紅去騙人就更大膽了。
目前來(lái)看這類AI偽造名人形象的事情，名人本身很忙而造假者太多，難以追究，但也不是完全不能追究。
畢竟AI偽造的網(wǎng)紅帶貨，最后掏錢的還是消費(fèi)者，消費(fèi)者可以向市場(chǎng)監(jiān)管機(jī)構(gòu)舉報(bào)虛假宣傳。
比如今年2月，消費(fèi)者舉報(bào)了某視頻賬號(hào)推薦的“深海多烯魚油” 能夠治療多種疾病，涉嫌虛假宣傳。
點(diǎn)進(jìn)直播間一看，好家伙，88萬(wàn)粉絲，直播間里的形象是央視主持人李梓萌，旁邊展板上標(biāo)注著 “適合頭暈頭痛、手麻腳麻、記憶下降人群” 等醫(yī)療用語(yǔ)。
結(jié)果一查，所謂的“深海多烯魚油” 實(shí)際執(zhí)行標(biāo)準(zhǔn)為糖果，倒是吃不死人，但根本不具備疾病治療功能。
至于直播間里的李梓萌形象，肯定不是真人，而是利用 AI 技術(shù)偽造生成的。北京市場(chǎng)監(jiān)管部門就對(duì)該公司進(jìn)行了行政處罰。
這是北京第一次處罰AI虛假宣傳，上個(gè)月公布，顯然互聯(lián)網(wǎng)不是法外之地。
但還有非常多AI假冒名人虛假宣傳沒(méi)有得到懲治。
以前靠PS就能造假，有圖也不一定有真相；現(xiàn)在AI技術(shù)成熟到隨意合成形象和聲音，就連視頻都沒(méi)法相信了，眼睜睜看到的視頻，也不一定是真相了。
“眼見(jiàn)為實(shí)”完全不存在了。
以后無(wú)論是熟悉的親人朋友，還是信任的明星網(wǎng)紅，說(shuō)的話、做的事，哪怕有直播和視頻影像，都不能信了。
AI將注定反復(fù)拷問(wèn)人與人之間的信任。
“AI 黃仁勛”與英偉達(dá) GTC 同時(shí)開(kāi)直播，“假貨”觀看人數(shù)竟是正版 5 倍|英偉達(dá)|直播|黃仁勛_新浪科技_新浪網(wǎng) finance.sina.com.cn/tech/digi/2025-10-30/doc-infvrtfp2593382.shtml
全紅嬋帶貨土蜂蜜？全父：均系A(chǔ)I偽造視頻-重慶日?qǐng)?bào) https://cqrb.cn/shishi/2025-04-29/2259139_pc.html
央視主持人成“受害者”！官方通報(bào) https://mp.weixin.qq.com/s/8__RTIJLFhavb5IBaY0GKQ
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
