![]()
【溫馨小提示】:
大家也可在小號找到我,關注起來,以后不失聯~
中東發生新沖突以來,外網上又出現了新的起號、牟利方式。
“地域沖突”和“AI進化”兩個當下最火的議題相互碰撞,誕生出了最唬人也最細思極恐的把戲——AI生成的虛假戰爭視頻。
![]()
虛假視頻引發了不少恐慌。而那些AI視頻的發布者則是隱藏在幕后,借著平臺的流量盈利機制,利用人們的恐慌心理賺得盆滿缽滿...
在這波虛假視頻浪潮中,觀看量突破幾百萬、幾千萬的片段有很多。
其中一段視頻顯示,導彈襲擊了以色列特拉維夫市,背景中傳來巨大的爆炸聲。
![]()
另一段播放量幾千萬的視頻中能看到,迪拜的哈利法塔摩天大樓著火,一群人似乎正朝著大樓跑去。
當地居民本來就對無人機和導彈襲擊感到擔憂,這種視頻無疑加劇了民眾的恐慌。
![]()
還有一種視頻會利用衛星圖像來造假,制造一種“官方發布”的權威感。
比如下面這組對比圖,左邊是真實圖像,是2025年2月拍攝的美國駐巴林海軍基地的衛星圖,圖片可在網上公開獲取。
右邊則是經過AI處理的造假圖,顯示基地已經被炸。
![]()
除了假視頻,虛假照片也開始傳播,甚至有AI生成的圖像顯示,救援人員正在打撈被炸重要人物的遺體...
要驗證這種消息的真實性雖然并不復雜,但很少有人上網的時候會特意去驗證眼前每一條消息到底是真是假。
而且現實情況是,大多數人對消息的真假確實不敏感...
![]()
外媒報道中就提到,即使AI生成的圖像質量很低,或者帶有明顯的AI視頻水印,也能經常看到它們被大量分享。
更進一步,是類似“狼來了”的故事。如果這種視頻越來越多,大家會對網上看到的信息產生不信任感,“記錄真實”這件事兒也會變得更加困難:
“如果人們不信任專業機構、經過事實核查的信息或證據,就極有可能導致崩潰、社會不和、兩極分化、機構分裂。人們的決策不再基于證據,而是基于感覺和情緒。”
![]()
此外,AI生圖、生視頻能力的進步,也加劇了假消息的傳播。
比如下面這組對比圖,如今的AI已經可以很輕松地靠左邊這樣一張圖片,生成右邊的這種爆炸視頻。
![]()
這意味著每個能夠操作AI工具的人,都能動動手指加入創作,很短的時間內就能批量產出一堆類似的虛假視頻。
要不要拿著假視頻去哄騙網友,只在創作者的一念之間。
一旦決定了用這種手段牟利,騙流量起號就變得輕而易舉。甚至發布者的初衷都不是牟利,而是達到某些不可告人的秘密...
![]()
比如X平臺在這次風波中就發現,有一名巴基斯坦男子管理著31個賬號,輪流發布AI戰爭視頻。
類似國內的批量起號“養蠱”,一旦其中的一條或者幾條視頻火了,創作者就能拿到流量分成。
![]()
有些網友會在評論里艾特X平臺自帶的AI(Grok),讓Grok幫忙判斷視頻的真實性。
但...Grok在AI視頻識別上的能力有限,在很多情況下,Grok竟然會堅稱AI生成的假視頻是真實的事件現場。
![]()
更抽象的是,Grok還會引用一些最近的新聞媒體報道,來“證明”AI視頻的真實性。
這種斬釘截鐵的語氣很容易讓人覺得,視頻里的景象確確實實在地球上發生著。
![]()
好消息是,在AI泛濫的年代依然有“老藝術家”堅持傳統辟謠手藝。
比如下面這段所謂的“導彈襲擊城市”的視頻,有博主經過核實取證,發現是拍攝于阿爾及利亞的煙花慶祝視頻。
![]()
目前X平臺已經宣布,如果創作者發布未經標注的AI生成的戰爭沖突視頻,將暫時中止發布者的流量盈利計劃。情節嚴重者還會給出封號90天甚至永久封禁的處罰。
但這也只能解得了近渴,改變不了AI虛假內容充斥外網的局面。
而如果想從審核角度解決問題,要付出的人力成本恐怕難以想象。
![]()
(X平臺目前會在AI視頻下面加這樣的標注來提醒)
去年AI崛起時,我們還在擔心“AI幻覺”會編造出大量的虛假消息,污染互聯網的語料庫,降低我們獲取信息的效率。
如今,AI極低成本的創作,已經讓每一個普通人有了隨手制作出真假難辨視頻的渠道。
![]()
AI的發展速度以天計,人類的各種監管手段和規定、政策卻不能緊隨其后迅速更新。想想都細思極恐。
這個過程中最讓人難受的莫過于,這次是AI假視頻通過地域沖突來營造心理恐慌,下一次可能就騙到你我身邊最熟悉、最日常的領域了...
到時候能不能一眼分辨出來,還真說不清...
聽說
把【報姐】設置為☆星標☆
更容易搶到C位哦 ~
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.