“太可怕了。視頻、聲音、口型完全看不出來真假。”
原始素材來自2020年電視劇《冰雨火》,換臉后的“假王勁松”用逼真的畫面和聲音進行商業推廣。
他后怕地說:“措手不及,我家里人都分不清是不是真是我了。”
這不是孤例。春節前夕,旅行穿搭博主雷國悅在社交媒體上刷到了“另一個自己”。
唯一不同的是,畫面中的女生換了裙子,多戴了頂草帽。
她確信:這是AI融圖。
![]()
令雷國悅氣憤的不只是剽竊創意,更是對方直接用于商業推廣。那個粉絲過萬的賬號,實則是代理商批量投放的低成本推廣號。
她清楚記得拍攝時的構思:特意等到日落之前,光暈正好能照亮對岸的摩天大樓。如今對方以極低成本“復刻”牟利。
她連夜通過可信時間戳服務留存電子證據,做好了訴訟準備。
一對一維權已很難,當侵權者是有組織的團伙時,反抗更加無力。
聊天記錄中,主犯羅某2024年4月告訴同伙:“富貴險中求,再說你又不是做黑五產業,怕什么。”
最終,羅某和姚某各被判有期徒刑一年六個月,罰金6萬元。這是北京首起利用AI侵犯著作權的刑事案件。
![]()
侵權不止于作品,還有每個人的面孔。
在聊天記錄中,虞某某承諾可以定制,無論是明星還是生活中的女生,“只要是能看到的臉都能換”。5分鐘視頻收費300元,30分鐘收費500元。
演員王勁松遇到的正是這類盜用。經辨認,其原始素材來自2020年拍攝的電視劇《冰雨火》,AI換臉后的“假王勁松”以逼真的聲音和畫面進行商業推廣。
醫療專家也成為灰黑產的目標。北京協和醫院臨床營養科主任于康教授發現,自己從未參與錄制的視頻大量出現在社交媒體上。
“這完全是我的形象,聲音相似度完全超乎了我的想象。現在技術能達到這個層級,有一點后背發涼。”他感嘆。
令于康擔憂的是,視頻造假方兜售的錯誤商品及信息,老百姓一旦相信,會造成更廣泛的影響。
2021—2023年,GAN技術提升了假視頻的皮膚質感,但側臉、眨眼等細節仍容易穿幫。
2024年至今,基于擴散模型與Transformer架構的生成式大模型技術逐漸完善,已能使環境光隨著面部轉動而變化,并表現出毛孔、汗水等紋理細節。
大約只需10—15秒的語音就能完美解析一個人的聲音特點并復刻;實時分析音頻波動后,能精準驅動3D嘴部肌肉模型;只要捕獲操縱者的細微表情,就能實時遷移到偽造目標臉上;在環境合成環節,不僅能自動補全背景,還能模擬攝像頭抖動帶來的自然模糊。
傳統的識別方法也已失效。“以前可以觀察面部邊緣,現在的模型會自動在面部邊緣添加‘自然噪聲’和‘羽化處理’,甚至模擬光線溢出的效果。”他說。
當出現疑似深度偽造攻擊時,相對有效的手段是“多因子驗證”,例如要求對方在視頻中做出快速用手在臉前揮動、側轉90度頭等意料之外的極端動作。大多數實時AI模型仍存在這一短板。
“但這些方法的有效性,在快速進化的技術面前也隨時可能失效。”他坦言。
![]()
越來越“以假亂真”的AI換臉技術,正將普通人置于多重風險之中。
2026年全國兩會期間,全國政協委員靳東回應AI換臉亂象時表示,很多人因此遭遇網絡詐騙。
視頻博主“濾鏡粉碎機”曾模擬過真實的詐騙流程。在技術方協助下,團隊生成了一位成員的AI換臉視頻,用陌生微信號冒充本人聯系其母親,再用AI視頻撥打微信視頻電話,以“女友懷孕急用錢”的理由索要2萬元。
母親向其他親戚朋友求助,得到了許多“是騙子,別轉錢”的提醒。三小時后,在焦慮情緒的驅動下,母親把錢轉到了陌生賬戶。事后復盤時,這位母親表示“從始至終都沒覺得有人冒充他”。
“平時再冷靜、有閱歷的家長,面對熟悉的臉龐和聲音,可能都難以戰勝情感。”她說。
據國家反詐中心數據,2025年上半年,AI換臉詐騙案件涉案金額超68億元,單起案件最高損失達2000萬元。
技術正被用于系統性攻擊數字信任驗證體系,并直接牟利。
普通人也更容易遭受被造謠和誹謗的風險。
“技術趨勢已不可阻擋,除了發展檢測技術,我們也必須加快立法,并加強向社會公眾科普有關AI技術的風險及法律知識。”他說。
全國政協委員、導演劉家成認為,若AI生成內容被用于不良廣告,將對當事人造成毀滅性打擊。他呼吁加強對AI的規范管理,嚴禁隨意替換他人面孔、嫁禍于人。
你擔心自己的臉被“偷”走嗎?
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.