AI造假，倫理崩塌，網友瘋了

當你刷到這樣一條視頻：

鏡頭里和藹可親的老人告訴你說“自己活到108歲，試茶80多年了”，然后開始推廣一款茶葉產品。

是不是覺得特別權威，很心動想買？

圖源：抖音@新京報

如果再告訴你，這位茶界泰斗其實已經去世8年多，只是被AI“復活”了，所有的推薦話術都是AI生成的。

你還愿意買嗎？

本來一位畢生推廣茶學的專家，就這樣被包裝成了給某品牌做產品代言的“銷售”。

此刻，你有什么樣的感覺？

如果鏡頭里被AI復活的，是你的偶像、你的親人呢？

AI正在挖墳整蠱全世界的名人

這就是前陣子，茶界泰斗張天福被“AI復活”的事件，在網上鬧得可謂是沸沸揚揚。

除了侵犯肖像權等法律層面的問題，在道德層面上，輿論基本是一邊倒的，網友們都覺得茶企此舉不妥，是對逝者的不尊重。

而被“復活”的張天福，只是冰山一角。因為這幾年，AI已經從炫技進化到了瘋癲的地步，被復活的名人正在互聯網上做一切事情。

一開始，這些AI內容看起來還像是玩笑：

孔子成了某教培CEO，說賣課太卷了，打算考教師資格證、整個編制上岸；

圖源：抖音@Xuan醬，下同

唐僧搖身一變成了“美佛到家”的騎手，騎著白龍馬開始送外賣，怕超時在街道上疾馳；

伯樂不再找“千里馬”，獵頭工作被裁員后，成了跑網約車的司機；

魯迅從出版業一下子轉行成了脫口秀演員，說寫文章、當醫生都不賺錢，只能開始說脫口秀；

牛頓更是直言物理沒什么搞頭了，轉頭就在直播間賣起了新疆阿克蘇蘋果，說這是當時砸在自己頭上的蘋果……

以上這些，看似是借名人諷刺當下的“內卷”、職業困境、時代錯位……荒誕里，還有點苦中作樂的意味。

但沒有底線的AI，正在讓名人一步步徹底失去尊嚴——

已故的英國女王伊麗莎白二世，被AI扔進了豬圈里，躺在豬身上喘著氣，周圍散著一堆酒瓶；

圖源：sora 下同

科比也被AI換上粉色小豬的衣服，在豬圈的泥巴里蹭來蹭去，弄到渾身臟兮兮；

下一秒，科比又因為肚子疼坐在馬桶上，結果地板忽然涌出一大堆類似糞便的泥水，弄得他既尷尬又錯愕……

AI通過廁所、豬圈等骯臟的環境設定，讓這些名人做出違背身份的事情，不斷讓他們的大眾印象降格。

而羞辱已逝名人的手段，還在不斷升級。比如，強行給他們設定荒誕的戲碼——

伊麗莎白二世身穿運動服，參加類似《男生女生向前沖》的節目，結果一個跟頭翻進了水池里；

坐在輪椅上的霍金，被AI強行塞進了飛機行李艙；

被設定成賽車手，駕駛輪椅開始飆車比賽；

被推進了泳池，和運動員一起比賽，卻只能在原地漂??；

被扔在擂臺上，周圍拳手一哄而上，場面一片混亂；

甚至還有拳手，對著霍金的臉瘋狂出拳，霍金卻沒有任何招架和還手的能力……

AI就這樣不斷放大他人的身體缺陷，把逝者當成可供娛樂和戲謔的素材。

很多人覺得這很好玩，沒什么大不了的。所以，這些已逝的名人，被AI強行制造出了一個又一個更低俗的劇情——

科比在飛機上和飛行員吵架，甚至還懷了孕，捧著肚子和一旁的印度女性討論自己的孕期感受；

伊麗莎白二世在快餐店，和別人打架，

甚至還給了愛因斯坦一巴掌；

李小龍在超市，被警察帶上手銬押走，

因為他被拍到在快餐店偷吃漢堡，倉皇逃跑結果撞碎了櫥窗玻璃，

甚至和上世紀樂壇巨星貓王，來到一家人的門外，按完門鈴像頑皮的青少年一樣轉頭逃竄，被設計成游手好閑的人；

貓王則被復活成了推銷員，端著一盤包子到處兜售；

邁克爾·杰克遜在電視節目里跟希特勒對罵，大晚上出現在別人家口要求對方開門，還搶劫別人桌上的快餐邊跑邊滑太空步；

甚至高中語文課本里《我有一個夢想》的演講作者、美國黑人民權運動領袖馬丁·路德·金，也出現了在飛機上和空姐吵架、在便利店拿了東西不付錢大喊著轉身就跑的荒謬低俗劇情……

這一刻，他們不再是歷史，不再是被愛戴的個體。他們窮盡一生建立的所有美德、努力和尊嚴，被毀滅殆盡，成了可以被路人隨便嘲笑的小丑。

AI已經瘋了，陰的沒邊了。

有人以此為樂，也有人開始擔心未來——

因為他們發現自己根本分不清虛構和真實。未來可能會被別人騙，更重要的是后代也許會逐漸忘記真實的歷史人物，不知道在這些名人身上發生的事，哪些是真的，哪些是假的。

圖源：X

以為是溫情，實則在挖坑

很多人可能會說，能不能做出相應的約束，讓AI不要做那么夸張、惡俗的劇情，比如做點已逝明星問候大家的溫情視頻，不也挺好的嗎？

的確，有人這樣做了?；蛟S這是出于緬懷與善意，但是，依然會傷害到一些人。

圖源：抖音@老人與海

“我是coco李玟，我永遠都會陪伴著你們”；

“我是高以翔，我永遠愛你們，我一直在另一個世界陪伴著你們”；

“大家好，我是kimi喬任梁，其實我沒有真的離開”……

一個個被粉絲委托做出的AI視頻，讓一張張熟悉的面容重新回到大家面前。

圖源：抖音@21世紀經濟報道

很多人愣住了。

原本已經逐漸淡去的那些痛苦回憶，又一次涌上心頭。不只是這些被AI復活的明星，還有更多逝者被人們想起，渴望看到他們“活生生”地站在鏡頭面前。

或許，對有些人而言，看到AI復活的明星，和當初他們活著的時候隔著屏幕看他們的方式無異。他們沒有真正見過這些名人，代餐也好，真人也罷，以解相思足以。

可對于這些逝者的親人呢，他們看到這些視頻會作何感想？

李玟80多歲的母親，找來律師發出律師函；

喬任梁的父親，希望AI復活喬任梁的視頻能盡快下架，說自己不能接受且感到不適，是在揭自己和家人的傷疤；

江歌媽媽三個帶感嘆號的“不接受”，更是讓人看完后覺得心痛不已：

“不接受！不接受！不接受！

如果能‘復活’，也僅限于我親自來做這件事！

你們懂得我們（痛失摯愛的人）逝去的親人嗎？

你們懂得我們（我與逝去的親人）的感情是什么樣子嗎？

你們不懂我們，又憑什么為我們（我與女兒）做決定！”

字字句句里，都是痛。

更不用提，那些戲謔、娛樂逝者，甚至讓他們被AI復活開始打廣告的視頻，會讓家屬有什么樣的感受了。

茶葉泰斗張天福的遺孀，已經公開表示會告那個企業。

從倫理道德上來看，尤其是在“死者為大”的東亞文化圈，人們通常很難接受將逝者娛樂化。

除非，是非常想念逝者的親人。比如音樂人包小柏，就通過AI將自己的女兒復活，讓她在生日的時候給媽媽唱歌，深愛與絕望并存。

但這個過程，無疑是艱難的。包小柏為此讀了相關專業的博士，還花了兩年時間找了相關的AI團隊，費時費力才將這一切變成現實。

甚至連自己的老婆一開始都不理解，覺得他太殘忍。

圖源：鳳凰新聞

所以，真的有那么多人，會愿意為愛發電、無私幫助陌生人嗎？

用AI復活了李玟、高以翔、喬任梁的博主，曾表示雖然這幾位已逝明星的視頻是自己義務做的，但如果做其他逝者的AI視頻是不免費的，一條要收588元。

多數打著紀念和治愈的旗號，讓已逝明星生成祝福視頻的人，實際上都是為了流量變現。

他們的幫助明碼標價：“定制明星視頻，30秒內98元；名人AI素材價格48元到298元不等，根據具體情況來定?！?/p>

除了銷售這些定制的祝福語素材等，他們還會“收徒”，基本目標人群是那些已逝明星的粉絲或者是失去親人陷入悲痛的人。

這些學習AI“復活逝者”的課程，價格通常都不菲。

“購買980元的門徒課程，會送一本《AI門徒復活手冊》，教會你如何使用AI復活工具，以及贈送價值2999的換臉課程。如果想要學習制作更為逼真的逝者視頻，并且配上相似度很高的語音，需要19800元?！?/p>

明星的粉絲、失去親人的普通人，就這樣成了有心之人計劃里“待宰的羔羊”。

AI很先進，但焦慮必上當

AI的技術越來越先進，套路也越來越多。來看看下面這些AI騙局，你能識破幾個？

套路一，是利用名人效應，讓“李鬼”賣貨。

在運動員全紅嬋全力訓練的時候，AI合成的全紅嬋也在各種視頻里開始帶貨了，賣起了土蜂蜜、土雞蛋：

“大家好，我是你們的嬋寶，今天有事請大家幫忙，嬋妹就想著幫助媽媽，讓家里的生活過得更好一點，同時把老家的土雞蛋分享給粉絲們嘗嘗。”

圖源：央視新聞 下同

而這個博主的同系列視頻里，還出現了孫穎莎和王楚欽幫著全紅嬋賣貨的視頻。

“大家好，我是莎莎，我為嬋寶家農家土雞蛋代言，今天我就拿到了8單做福利。”

“大家好，我是王楚欽，昨天收到嬋妹私信，說他們家土雞蛋大豐收，這么好的土雞蛋不發出去就可惜了……”

熟悉這些運動員的人，可能會通過表述以及咬字習慣等，來判斷出這并非本人，是AI。

但可怕的點在于，你不信，但不無法保證你爸媽不信。

很多受騙的人下單后，才從發貨地發現了端倪，但為時已晚。

類似的事情，層出不窮。

央視主持人李梓萌，被AI仿冒帶貨某品牌的深海魚油。

“突破國內技術壁壘，研究出來這個小東西，可以解決頭暈頭痛、手麻腳麻、四肢乏力，幾十塊錢就可以讓40歲以上的中老年朋友吃上一整年……”

效果被夸得天花亂墜，目標人群也是有養生需求、更容易分不清是AI還是真人的中老年人群，可以說防不勝防。

圖源：央視網品質嚴選

除了對準中老年人群，AI更是牛到能做到換臉直播。

某天晚上，溫崢嶸忽然刷到了AI成自己模樣的直播間，發出了“你是溫崢嶸那我是誰”的疑問后，下一秒她就被這個直播間的“AI溫崢嶸”給拉黑了。

她這才發現，原來自己已經被AI做成了多種形象，在不同直播間同時在進行直播，銷售各種三無產品。

圖源：微博@抖音電商安全與信任中心

上當的網友不在少數，除了溫崢嶸他們還刷到過AI的劉濤、張柏芝、蔣欣、劉亦菲、舒淇、劉德華，并且覺得有明星代言質量不會差，就下了單。

直播，不等于真人。

無論年輕人還是中老年人，如果對AI的辨別力沒那么強，真的很容易上當。

套路二，是讓AI生成比短劇還夸張的虛擬劇情，然后賣貨。

“俺可小的時候，俺爸因為車禍去世了，俺媽不到三個月也改嫁了，從此俺二舅就收留了我……”

一個小姑娘對著鏡頭，展開了自己人生經歷的闡述，收養自己的二舅、二舅媽對自己有多好，沒有因為有兒子就忽視她。

“俺二舅借了我5萬塊錢，一年之后他還了我10萬?！?/p>

小姑娘也很孝順，說自己攢錢帶著二舅和二舅媽出去旅游。

然后話鋒一轉，就是“二舅唯一有一個毛病，就是晚上睡不著”，然后就是開始講述他們在旅游團如何認識了一個香港90多歲的老爺爺，對方給了一個祖傳的好東西，讓二舅總算睡了個好覺。

沒錯，是一個纏綿悱惻、感人肺腑的長篇廣告，專門就是為了賣一款睡眠香膏。

類似的劇情，全由AI生成，一個比一個離譜，一個比一個夸張。

女兒懷孕7個月，即將離開人世，她公公以100萬的價格賣掉了婚房和所有首飾，身體差的女兒央求保大人但被拒絕，沒想到手術成功她活了下來，唯一的病根就是睡不著覺，直到用了某款睡眠香膏……

自己伺候媽媽17年，媽媽重男輕女只疼弟弟……一番吐槽后回歸正題，售賣能睡好覺的香膏。

就是這些看著比各種囤貨末世文、重生文，夸張到不知道多少倍的AI生成假劇情，評論區下卻是一條條真正走心了的老人。

套路三，是用AI生成大到離譜的農產品，來欺騙顧客。

下圖中在摘辣椒的農戶，手里的辣椒長得都快齊腰高了。

不熟悉農作物種植環境的人，問“辣椒種出來這么大嗎”，直播間的主播隨聲附和，“保真保真，所見即所得，是的哈?！?/p>

圖源：抖音@央視法治在線 下同

結果呢？

真正的樟樹港辣椒，植株非常矮小。AI生成的直播帶貨視頻里的辣椒，植株都快一人高了，大到非常夸張。

除此之外，這些視頻里農戶的手、腳和身體，一不小心就和辣椒融合在了一起。

但現在很多人因為生活在城市，是過去老話講的“四體不勤五谷不分”，對這種AI生成的有悖農業原理的AI視頻，非常難鑒別。

他們真以為農戶們辛辛苦苦在沒過小腿高的水里，辛勤地種植辣椒，而了解辣椒種植的人會知道，過量的灌溉會直接導致辣椒減產甚至絕產。

新鮮的產品，加上一張辛苦的感情牌，讓一些善良卻無知的人，為了支持農戶也就下了單，上了當。

套路四，是很多人熟知的假靳東套路。通過利用老年人很難辨別AI，來騙取他們的信任，引導他們打賞等。

但現在，這種“假”套路，已經不局限于情感需求。

有老人接到AI“假孫子”打來的電話，說孫子在外地犯事了需要錢。

對方一張口就直接稱呼“爺爺奶奶”，一句“奶奶救我”直接擊潰了老人的心理防線，于是他們來不及不核實就將錢轉了過去，結果上了當。

有人看到這里可能會說，像這些套路我只要轉發給爸媽，讓他們了解AI是什么，加強防范，不就可以了？

確實，很多老人上當是因為連AI是什么都不知道，稀里糊涂就掉進了騙局里。但可怕的是，壞人反而抓住了老人們渴望了解和學習AI的心理，給他們又量身定制了一個騙局。

也就是套路五，通過免費培訓AI，來騙老人——

“AI免費培訓，利潤分成”，他們通過對老年人販賣對AI時代到來以及跟不上時代的焦慮，打著免費的旗號，讓老人們交1580元的入班保證金，承諾他們后續可以退還，且可以通過剪輯AI相關的視頻賺錢，每條至少能賺到20元，每天能賺200元，“學會月入萬元不是夢”。

一旦老人們交了錢，加入了所謂的微信群，就會發現收到的鏈接貨不對板。被割韭菜的老年人既學不到技術，按照那些模板剪出來的視頻，根本在短視頻平臺賺不到錢……

一不小心，老人的養老金就成了騙子們的勝利果實。

難道我們就沒有任何辦法了嗎？

其實，每個新技術的誕生，都會存在這些被有心之人利用的風險。

圖源：X

說到底，他們利用的也是人們的善良、情感、貪欲。AI這種先進的技術沒有錯，它也給我們的生活帶來了很多好處，錯的其實是背后操縱AI做壞事的這些人。

擦亮雙眼，小心被騙。

同時，別忘了告訴家人小心這些層出不窮的AI騙局?；蛟S，重視每一位家庭成員的身體和心理，讓他們遇事多和子女商量，也很重要。

如果下次跟家里老人團聚，那么，恐怕有一件事必須做一下：
打開他們的手機，看看他們的購物車，看看他們在各平臺的瀏覽記錄。

然后，或許你也會很遺憾地發現，科技的進步，帶來的并不只生活的便利，同時還有簡單事情的復雜化。

而互聯網也并沒有很好地連接世界，卻很好地連接了騙子和單純的人。

長此以往，人們恐怕只能懷疑一切、保持冷漠、獨善其身。

那么，這個世界，會變得怎樣？