以色列總理本雅明·內塔尼亞胡上個月發了條視頻,想證明自己沒被導彈炸死。結果評論區炸了——更多人認定他是深度偽造(deepfake,用AI生成的虛假音視頻)。
他犯了什么錯?光線 tricks 讓他的右手看起來像有6根手指。這個細節成了"AI露餡"的經典標志。幾天后他沖進一家咖啡店,舉著雙手笑呵呵地數手指:1、2、3、4、5。
專家告訴我,這是首位公開自證非AI的大國領導人,而且輸得很難看。到現在還有大批人堅信他已經死了,順便把我也劃進了"掩蓋真相"的陰謀名單。
我阿姨認識我30年,勝率90%
看到內塔尼亞胡的翻車現場,我決定做個實驗。打電話給阿姨Eleanor,告訴她過幾分鐘會收到我的電話——但可能是真人,可能是AI克隆。
第一輪她挺自信:"真人說話起伏更大,AI太平了。"
第二輪我換了AI語音回撥。她沉默了很久。"剛才那次……更像人工的。"
也就是說,認識我三十年的親人,在明確知道可能被欺騙的前提下,準確率只有90%——而且她把真人當成了AI,把AI當成了真人。
這還沒完。幾周前我在家庭群發了條Google隱私設置的鏈接,我媽立刻警覺:"怎么證明你是Tom不是騙子?說點騙子說不出來的。"
我憋了半天,回了句我們家的內部梗。她信了。但這種"社會認證"能撐多久?
當"自證清白"變成行為藝術
![]()
內塔尼亞胡的咖啡店視頻犯了幾個低級錯誤。專家Santiago Lakatos指出:光線差、角度單一、沒有實時互動。這恰恰是AI視頻最容易模仿的場景。
更諷刺的是,他越努力證明,越像AI。人類看到"完美自證"會本能懷疑——太干凈了,干凈得像渲染出來的。
我采訪了多位深偽檢測研究者,得到一份"活人認證指南":
第一,制造不可預測性。AI擅長回應,但不擅長主動制造混亂。內塔尼亞胡如果當場讓店員隨機說個數字,他重復一遍,可信度會高很多。
第二,暴露生理瑕疵。流汗、眨眼頻率不規律、背景噪音里的隨機咳嗽。AI視頻往往"過于健康",像美顏開到滿級。
第三,時間錨定。舉起當天的報紙已經過時了,要展示實時信息——比如此刻Twitter的熱搜榜,而且得是動態滾動狀態。
但這里有個悖論:這些技巧公開后,AI訓練數據里也會加入它們。今天的"活人特征",明天就是深偽的標配。
信任崩塌的連鎖反應
深偽檢測公司Reality Defender的CEO Ben Colman給我算了筆賬:2024年上半年,他們檢測到的合成語音攻擊同比增長了900%。不是"大幅上升",是精確的900%。
更麻煩的是反向攻擊。一位安全研究員告訴我,他已經遇到三起案例:真人被指控為AI,職業生涯差點毀掉。"比被冒充更可怕的是,你無法證明自己不是冒充的。"
內塔尼亞胡事件后,以色列反對派議員要求總理進行"線下公開露面"。你看,連"真人到場"都成了需要特別申請的可信度背書。
![]()
這讓我想起阿姨實驗后的對話。她問我:"如果以后視頻通話都不能信了,我們怎么辦?"
我說:"可能得約定一個暗號,只有家人知道的。"
她回:"那AI偷聽了我們的電話呢?"
暗號也在失效
這個擔憂不是 paranoid。GPT-4級別的模型已經能處理多輪對話上下文,家庭暗號在足夠長的交互里會被試探出來。更狠的攻擊是"深度上下文偽造"——AI不直接猜暗號,而是誘導你自己說出來。
我最后問專家:有沒有絕對可靠的驗證方式?
答案是物理接觸。DNA、指紋、當面握手時的體溫。但全球每天有數十億次遠程身份驗證發生,不可能全部線下完成。
內塔尼亞胡的5根手指視頻發布后,他的支持者在評論區刷起了"活著的總理"。反對派則剪輯了另一個版本:手指數量正確,但光影計算"過于完美",反而像Unity引擎渲染。
兩個版本傳播量差不多。真相的權重,第一次和陰謀論打成了平手。
實驗結束我給阿姨發了條語音解釋全過程。她回:"下次直接打視頻吧,讓我看看你的貓。"
我的貓上個月死了。這個細節,AI暫時還不知道。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.