戰(zhàn)爭中的AI假圖：誰在制造混亂？

想象一下：凌晨兩點(diǎn)，你刷到一段"伊朗導(dǎo)彈擊中特拉維夫"的視頻，畫面震撼，轉(zhuǎn)發(fā)已過百萬。你隨手@Grok（馬斯克旗下AI聊天機(jī)器人）求證，它卻回你一張AI生成的"證據(jù)圖"——位置、日期全錯(cuò)，但語氣篤定。

這不是假設(shè)。虛假信息專家Tal Hagin上周剛經(jīng)歷過。更麻煩的是，這類場景正在X平臺(tái)批量復(fù)制。

一、戰(zhàn)場在蔓延：從假視頻到AI"驗(yàn)證"假視頻

2月28日美以空襲伊朗后，X的信息生態(tài)迅速崩壞。WIRED當(dāng)時(shí)報(bào)道，平臺(tái)被虛假和 repurposed（二次利用的）視頻淹沒。沖突持續(xù)至今，情況變本加厲：AI圖像和視頻成為主力，而Grok在"事實(shí)核查"環(huán)節(jié)反復(fù)出錯(cuò)。

Hagin的遭遇是個(gè)典型樣本。他向Grok求證一段伊朗官方媒體發(fā)布的導(dǎo)彈視頻，聊天機(jī)器人不僅搞錯(cuò)地點(diǎn)和時(shí)間，還搬出一張AI生成的圖片自證其說。Hagin的吐槽很直接："Grok現(xiàn)在用AI垃圾回復(fù)關(guān)于毀滅的帖子，徹底完蛋了。"

這種"用AI驗(yàn)證AI假內(nèi)容"的荒誕閉環(huán)，正在成為X的新常態(tài)。

二、假內(nèi)容的工業(yè)化：誰在生產(chǎn)？誰在傳播？

當(dāng)前X上的AI假內(nèi)容呈現(xiàn)三條清晰的生產(chǎn)線。

第一條：伊朗官方與親政權(quán)網(wǎng)絡(luò)

3月2日，伊朗官員和官方媒體集體轉(zhuǎn)發(fā)一段AI視頻：巴林某高層建筑起火。畫面逼真，傳播迅速。戰(zhàn)略對(duì)話研究所（ISD）向WIRED提供的分析顯示，同一批親政權(quán)賬號(hào)還在推送更極端的內(nèi)容——AI生成的圖片將正統(tǒng)派猶太人描繪成把美軍推向戰(zhàn)爭的推手，或慶祝美軍死亡。

這些賬號(hào)還傳播過一段偽造視頻：一排僅穿內(nèi)衣的年輕女孩走過特朗普身旁。播放量680萬次，刪除后仍在其他賬號(hào)流轉(zhuǎn)。

第二條：付費(fèi)藍(lán)V賬號(hào)

帶藍(lán)勾的付費(fèi)賬號(hào)成為AI圖片的重要放大器。一張"美軍B-2轟炸機(jī)被伊朗擊落、美軍被俘"的圖片，刪除前瀏覽量超100萬；另一組"三角洲部隊(duì)成員被伊朗抓捕"的圖片，刪除前瀏覽量超500萬。

藍(lán)V機(jī)制的本意是增加可信度，現(xiàn)在成了虛假信息的信用背書。

第三條：工具平民化后的散戶生產(chǎn)

一段聲稱"伊朗軍隊(duì)在洞穴深處制造導(dǎo)彈"的視頻，明顯粗糙，仍被多個(gè)賬號(hào)轉(zhuǎn)發(fā)，播放量破百萬。生成工具的門檻降低，意味著任何人都能參戰(zhàn)。

Hagin向WIRED總結(jié)："這場戰(zhàn)爭的獨(dú)特之處在于，我需要辟謠的AI生成內(nèi)容急劇增加。"原因他看得很清楚：AI技術(shù)已先進(jìn)到能騙過記者，而用戶零成本就能生產(chǎn)這類"AI slop（AI垃圾內(nèi)容）"。

三、辯論：這是技術(shù)問題還是平臺(tái)治理問題？

面對(duì)AI假信息的泛濫，兩種診斷聲音都很響亮。

正方觀點(diǎn)：技術(shù)迭代太快，識(shí)別根本跟不上

支持這一立場的人強(qiáng)調(diào)，生成式AI的進(jìn)化速度遠(yuǎn)超檢測工具。當(dāng)Midjourney、Runway等工具能批量產(chǎn)出4K級(jí)逼真影像，傳統(tǒng)的水印檢測、元數(shù)據(jù)分析迅速失效。更棘手的是多模態(tài)內(nèi)容——視頻里的煙霧軌跡、建筑光影、人群反應(yīng)，每個(gè)細(xì)節(jié)都可能是AI的"合理想象"，人類肉眼難以分辨。

Grok的反復(fù)失誤也被歸入這一框架：不是某個(gè)產(chǎn)品不行，而是整個(gè)"AI驗(yàn)證AI"的架構(gòu)存在先天缺陷。當(dāng)訓(xùn)練數(shù)據(jù)本身已被污染，輸出偏差幾乎是必然的。

反方觀點(diǎn)：平臺(tái)選擇縱容，技術(shù)只是遮羞布

另一派認(rèn)為，X的問題首先是治理意志的潰敗，而非技術(shù)能力的邊界。關(guān)鍵證據(jù)包括：

——藍(lán)V付費(fèi)機(jī)制將傳播權(quán)限貨幣化，卻不附加事實(shí)核查義務(wù)；

——Grok被設(shè)計(jì)為實(shí)時(shí)響應(yīng)平臺(tái)內(nèi)容，卻缺乏交叉驗(yàn)證的強(qiáng)制流程；

——伊朗官方賬號(hào)長期活躍，即便多次被曝傳播AI偽造內(nèi)容，也未遭遇系統(tǒng)性封禁。

這一派的核心質(zhì)問是：如果平臺(tái)愿意，技術(shù)方案并不稀缺。延遲發(fā)布 pending 審核、AI內(nèi)容強(qiáng)制標(biāo)注、信源分級(jí)權(quán)重——這些功能X都曾擁有或可以輕松部署，但馬斯克時(shí)代的平臺(tái)戰(zhàn)略明顯偏向"流量優(yōu)先于準(zhǔn)確"。

我的判斷：技術(shù)放大了舊問題，但平臺(tái)重新定義了"可接受損失"

兩種觀點(diǎn)都有部分真相，但各自回避了一個(gè)關(guān)鍵事實(shí)。

技術(shù)派低估了平臺(tái)治理的彈性空間。AI檢測確實(shí)困難，但"困難"不等于"無解"。YouTube的Content ID、TikTok的AI標(biāo)簽強(qiáng)制披露，都證明技術(shù)可以與治理結(jié)合。X的特殊性在于，它主動(dòng)拆除了這些緩沖裝置——2023年后的事實(shí)核查團(tuán)隊(duì)裁撤、社區(qū)備注（Community Notes）的權(quán)重下調(diào)、算法推薦對(duì)爭議內(nèi)容的傾斜，都是明確的政策選擇。

治理派則需要承認(rèn)，技術(shù)確實(shí)改變了博弈格局。即使X恢復(fù)2020年的審核強(qiáng)度，AI生成內(nèi)容的規(guī)模效應(yīng)也會(huì)壓垮人工審核的帶寬。問題的關(guān)鍵不是"有沒有意愿"，而是"愿不愿意為意愿支付成本"——包括延遲發(fā)布帶來的流量損失、誤判引發(fā)的訴訟風(fēng)險(xiǎn)、以及馬斯克個(gè)人意識(shí)形態(tài)與平臺(tái)中立性的持續(xù)張力。

更深層的轉(zhuǎn)變是"真相"的定價(jià)機(jī)制。傳統(tǒng)媒體的錯(cuò)誤發(fā)布有職業(yè)聲譽(yù)成本，X的AI假內(nèi)容卻只有刪除按鈕。當(dāng)680萬播放量的偽造視頻可以被一鍵抹除、不留檔案，平臺(tái)實(shí)際上在訓(xùn)練用戶：注意力是消耗品，真相是可選配件。這種訓(xùn)練比任何單條假新聞都更具腐蝕性。

四、為什么這件事值得科技從業(yè)者持續(xù)關(guān)注

對(duì)于25-40歲的技術(shù)從業(yè)者，這場混亂提供了三個(gè)具體的觀察切口。

第一，AI產(chǎn)品的信任架構(gòu)設(shè)計(jì)

Grok的案例說明，"實(shí)時(shí)響應(yīng)"和"準(zhǔn)確響應(yīng)"在產(chǎn)品層面存在張力。當(dāng)用戶@AI求證時(shí)，他們期待的是置信度閾值，而非速度競賽。如何設(shè)計(jì)"我不知道"的優(yōu)雅退出機(jī)制，如何讓不確定性可視化，是生成式AI從玩具走向工具的關(guān)鍵躍遷。

第二，內(nèi)容平臺(tái)的激勵(lì)重構(gòu)

藍(lán)V付費(fèi)模式是一次大膽實(shí)驗(yàn)，但實(shí)驗(yàn)結(jié)果正在反噬平臺(tái)根基。當(dāng)付費(fèi)身份與內(nèi)容質(zhì)量脫鉤，信用體系就退化為支付能力認(rèn)證。這對(duì)所有考慮類似變現(xiàn)路徑的產(chǎn)品都是警示：訂閱制可以賣功能，但賣"可信度"需要額外的校驗(yàn)層。

第三，地緣政治與產(chǎn)品決策的糾纏

伊朗官方賬號(hào)的持續(xù)運(yùn)營，折射出平臺(tái)在全球化與合規(guī)之間的走鋼絲。不同司法管轄區(qū)對(duì)"官方媒體"的定義差異、制裁名單的動(dòng)態(tài)更新、以及CEO個(gè)人外交姿態(tài)，都會(huì)滲透進(jìn)產(chǎn)品規(guī)則。這種復(fù)雜性無法被"技術(shù)中立"的敘事覆蓋。

五、我們能做什么：三個(gè)具體的行動(dòng)建議

信息污染不會(huì)自我凈化。如果你關(guān)心這件事，以下是三個(gè)可以立即啟動(dòng)的動(dòng)作。

1. 重建你的信息食譜

減少對(duì)單一平臺(tái)的依賴，尤其是實(shí)時(shí)沖突場景。原始信源（衛(wèi)星圖像服務(wù)商、當(dāng)?shù)赜浾弑娀I項(xiàng)目、開源情報(bào)社區(qū)）的交叉驗(yàn)證，比任何AI摘要都可靠。推薦關(guān)注Bellingcat、GeoConfirmed等組織的驗(yàn)證方法論。

2. 參與社區(qū)備注的撰寫

X的Community Notes機(jī)制雖被削弱，仍是目前規(guī)模化的 crowdsourced（眾包）糾錯(cuò)工具。如果你具備特定領(lǐng)域的專業(yè)知識(shí)（軍事裝備識(shí)別、地理定位、圖像取證），你的標(biāo)注可以直接降低虛假信息的傳播效率。

3. 在產(chǎn)品討論中引入"對(duì)抗性測試"

如果你是AI或內(nèi)容產(chǎn)品的從業(yè)者，將"信息戰(zhàn)場景"納入壓力測試。不是道德姿態(tài)，而是風(fēng)險(xiǎn)預(yù)判：當(dāng)你的工具被用于制造Hagin遭遇的那種混亂時(shí)，產(chǎn)品是否有熔斷機(jī)制？用戶是否有申訴通道？這些設(shè)計(jì)決策的早期成本，遠(yuǎn)低于危機(jī)公關(guān)的后期支出。

戰(zhàn)爭中的AI假圖不會(huì)停留在戰(zhàn)爭場景。選舉周期、公共衛(wèi)生事件、金融市場的突發(fā)波動(dòng)——任何注意力密集的領(lǐng)域都會(huì)成為下一個(gè)試驗(yàn)場。X當(dāng)前的混亂是一面鏡子，照見的不僅是某個(gè)平臺(tái)的治理失敗，更是整個(gè)技術(shù)行業(yè)在速度、規(guī)模與責(zé)任之間的重新校準(zhǔn)。

校準(zhǔn)不會(huì)自動(dòng)發(fā)生。它需要從業(yè)者持續(xù)的追問，和用戶在信息消費(fèi)習(xí)慣上的主動(dòng)抵抗。現(xiàn)在就開始。