![]()
你親眼見到的真相,并不見得就是真相。
文 | 阿布
高分英劇《真相捕捉》出第三季了,第一集刷完已經深深感覺:在科技飛速發展的時代,真相是越來越難捕捉了。
![]()
第三季目前豆瓣評分9.3
作為一部懸疑劇,《真相捕捉》從來不以跌宕反轉離奇為賣點,從第一季到第三季,它都在與時俱進地說同一件事:你親眼見到的真相,并不見得就是真相。
如果要說這三季的“進化”,那就是——假作真時真亦假,造假技術正在越來越逼真。
1
你的眼睛、耳朵都在背叛你
2019年第一季剛出來的時候,deepfake(深度偽造)技術還不廣為人知,AI也尚未像今日一樣大爆發。劇中,男主角因為在街頭襲擊一女子而被警方逮捕——在倫敦街頭的監控錄像里可以清楚看到,他暴力襲擊了女子,并將其拖入汽車離開。隨后,女子的尸體被發現,他當然成了最大的嫌疑人。
但是,隨著主角團調查的步步深入,英國政府中一個龐大且隱秘的情報系統浮出水面——女主角瑞秋調查發現——原來案發當天的公交車上還有一段錄像,顯示被害女子其實根本沒有遭到男主角暴力相待,他們只是互相簡單道別,然后女子坐上了公交車離開。
![]()
真相視頻
俗話說“有圖有真相”,但是現在,兩段截然相反卻一樣逼真的視頻擺在眼前,讓人不得不懷疑自己的眼睛——原來所謂的鐵證如山,不過也是情報部門利用一種名為“移花接木”的技術,修改了數據。
第一季的震撼在于:只要擁有足夠的權限和算力,哪怕是親眼所見,也可以是憑空捏造的。
到了2022年的第二季,編劇更是與時俱進,直接把深度造假技術也革新了。這一季的男主角是英國安全大臣特納,一開始他的形象挺正面的,這里還套了一個“娃突然闖進新聞直播鏡頭”的梗:
![]()
娃突然闖進直播連線
特納大方地讓娃入鏡,秀了一把“家庭跟政府事務一樣重要”的人設:
![]()
可是這位原本前途大好、被認為是首相人選的有力爭奪者的政客,受邀參加一檔電視訪談直播時,卻像變了個人一樣,開始對著鏡頭說出種族歧視、會毀掉他政治生涯的言論。
而最讓特納害怕的是,這些話其實不是他說的……
詭異的事情滲透進了他生活的方方面面:社交媒體上大放厥詞、被人懷疑出軌尼日利亞女人還有一個私生子、他發布的視頻里有他家書房的背景墻(可視頻卻不是他發的),甚至電視直播上他正在滔滔不絕地談論政見,而他本人其實卻在家里……門鈴按響,他從攝像頭里望出去,對面是一個一模一樣的他……
![]()
特納被逼得和自己老婆講話都得推著割草機來制造噪音
黑客利用了越來越先進的深度偽造技術,在信號從攝像機傳輸到廣播塔的那零點幾秒的微小延遲內,實時替換了直播畫面中人物的面部肌肉走向、微表情,甚至利用聲音克隆技術,完全合成了他的語音。這不僅需要極其龐大的人臉數據庫來做支撐,更需要能在毫秒級別完成畫面渲染的恐怖算力。
而借助這樣的算力,一場對重要政治人物公共話語權的劫持就這么實現了。過去,造謠需要成本,而辟謠只需要把當事人拉出來澄清。但在第二季展現的技術里,出面辟謠的也可能是“假人”——當一個大活人的嘴巴可以被一串代碼隨意控制,我們就知道,再也沒有真相了。
![]()
新聞也無法有真相了
到了第三季,距離2022年又已經過去了4年,技術會向什么更加恐怖的方向發展呢?我們看到女主角和她的團隊正在推行一個“真理行動”,與之前的“移花接木”深度偽造做斗爭。他們制造了一種特殊的監控攝像頭——有兩路系統,一路聯網,一路不聯網,這樣可以避免數據上傳后被人在云端修改。
![]()
![]()
可是,第一集剛開頭就很刺激:特納活活在這個最新型的攝像頭注視下,被人一槍爆頭。而當時他在劇中的身份已經是英國的首相大人了。正當瑞秋依賴于新攝像頭來調查兇手時,她赫然發現:里面呈現的兇手,和她親眼在現場見到的,并不是同一個人……
![]()
2
高分英劇背后,細思恐極
可能有人會覺得,電視劇畢竟是夸張表達,現實生活還不至于。
![]()
劇中監控無人,電梯卻自行升降打開
但遺憾的是,劇中展示的那些細思恐極的場景,早就不再是少數科技極客在實驗室里推演的假想敵,而是真真切切發生在我們身邊的社會新聞。利用人工智能進行的欺詐,早就造成了驚人的損失,真金白銀。
幾年前,歐洲就爆出過一個非常典型的案例:一家英國能源公司的首席執行官,在工作日接到了一通平常的電話。電話那頭是他所在德國母公司的直屬上司,上司在電話里用一如既往的嚴肅口吻,要求他立刻將20多萬歐元轉入一個位于匈牙利的指定供應商賬戶,并聲稱這是一筆十萬火急的交易。出于對上級聲音的信任,這位CEO沒有絲毫猶豫,完成了轉賬,結果當然是被騙了。但他即使知道被騙也還是覺得不可思議,因為電話里的聲音不是簡單的模仿,而是音色、語調都被復刻得惟妙惟肖,甚至還有那位德國上司說話時帶有的那種極其微弱的巴伐利亞口音和習慣性的停頓……犯罪分子僅僅是通過在網絡上收集那位德國高管公開演講的音頻片段,喂給人工智能進行深度學習,就訓練出了一個足以以假亂真的聲音克隆模型。
當然那還是幾年前,現在么,別說是聲音克隆,面孔表情都能克隆得一模一樣了。利用人工智能換臉技術冒充熟人甚至冒充公檢法進行視頻通話詐騙的案件屢見不鮮,且涉案金額往往巨大。
在漫長的進化中,人類大腦習慣了通過認臉和聽聲音來確認同伴。可是現在,技術能夠輕易繞過這種生物本能的防御機制,算法下的信任危機已經蔓延全球,誰也無法幸免。
3
用魔法打敗魔法?
在這個技術大爆炸的時代,真相的獲取成本正在變得無比高昂,而制造謊言的門檻卻在無限趨近于零。
面對這種降維打擊的技術霸權,作為普通人,會感到一種深深的無力——在那些看不見的算法黑箱面前,我們仿佛是透明的。上一秒在搜索什么,或者只是和身旁的朋友談論一句什么,下一秒,大數據就恨不得把這件東西塞進你的購物車。
而監控也在與時俱進。很多人以為,只要出門戴上口罩和墨鏡,把臉遮得嚴嚴實實,監控就拿我沒辦法了。這招在十年前可能有用,但在今天,除了人臉識別,最主流且難防范的技術叫作步態識別。
每個人的骨骼結構長度不同,肌肉的發力習慣不同,走路時的重心轉移軌跡也是獨一無二的。這種身體的生物力學特征幾乎無法通過后天的刻意偽裝來長時間改變。所以步態識別系統不需要看清你的臉,只要攝像頭拍到你連續走上十幾步的畫面,后臺的算法就能迅速提取你全身幾十個骨骼關鍵點的動態變化,然后和數據庫里的特征值進行比對,從而在茫茫人海中把你摘出來——很多通緝犯就是這樣被抓的。
一些注重隱私的人研究出了一系列反人工智能監控的設備,比如能破壞面部幾何特征的妝容(算法比較依賴尋找人臉的固定特征點和位置關系);還有印滿了經過復雜計算生成的雜亂圖案,這些圖案的特定像素排列會向算法發送大量的錯誤誘導信息,讓系統把人錯認成一把椅子,從而達到“隱藏自己”的效果。
不過,你要是臉上涂滿油彩,再穿上這樣花里胡哨的像素風衣服上街,那么肉眼就能輕易把你從人群里認出來了吧……
再說到深度偽造,攻擊未來的偽造手段只會潛伏得更深,偽裝得更像真實,更加讓人難以察覺,比《真相捕捉》的劇情還難捉摸。
技術本無善惡,但掌握技術的人性卻深不可測。在這場看不見硝煙的數字攻防戰中,保持懷疑,保持清醒的思考能力,或許是我們普通人手中最后的武器了。
![]()
![]()
我要驗牌,牌沒有問題,原來他就是“法國賭神”皮爾卡松!
泰式口音、10元老花鏡、到點下班……54歲瞿穎怎么剛翻紅就“擺爛”了?
伊朗實權人物拉里賈尼遇害,而最高領袖在莫斯科嗎?
版權說明
新民周刊所有平臺稿件, 未經正式授權一律不得轉載、出版、改編,或進行與新民周刊版權相關的其他行為,違者必究!
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.