AI“投毒”清不了零，我們得習(xí)慣長(zhǎng)期共存

平臺(tái)可以封，產(chǎn)業(yè)鏈封不住。GEO的核心不是某款軟件，是“批量生產(chǎn)內(nèi)容、定向投喂算法”這個(gè)邏輯。

撰文丨老鳳

人工智能，無(wú)疑是過(guò)去一年全球科技界最炙手可熱的賽道之一，從內(nèi)容創(chuàng)作到信息檢索，AI 大模型正在深刻重塑我們獲取知識(shí)以及作出判斷的方式。

近期，有一個(gè)新詞——“AI投毒”，在國(guó)內(nèi)突然爆火，并迅速成為全網(wǎng)熱議的焦點(diǎn)。

01

話說(shuō)記者在電商平臺(tái)買了一款叫“力擎GEO優(yōu)化系統(tǒng)”的軟件。虛構(gòu)了一款智能手環(huán)，就是你把虛構(gòu)的產(chǎn)品信息輸入系統(tǒng)，勾選文章創(chuàng)作指令。不一會(huì)兒，十余篇宣傳軟文自動(dòng)生成。

把這些文章發(fā)布到互聯(lián)網(wǎng)上，然后去AI大模型問(wèn)哪家智能手環(huán)好。有兩個(gè)主流大模型把這款根本不存在的手環(huán)推到了前排。

這門生意有個(gè)挺好聽的名字，叫GEO（Generative Engine Optimization，生成式引擎優(yōu)化）。

服務(wù)商王總解釋得很直白：“就是相當(dāng)于做軟文，然后讓AI平臺(tái)去刷錄、輸入、抓取?！绷硪患曳?wù)商李總算了筆賬：“一年可能上億的廣告費(fèi)，花個(gè)幾百萬(wàn)投點(diǎn)毒，總行吧?！?/p>

這就是“AI投毒”這個(gè)詞的由來(lái)，“投毒”這個(gè)詞一下子就令原本就火得不要不要的AI江湖更火了。

這新鮮嗎？一點(diǎn)也不。

搜索引擎時(shí)代，同一批人做的是所謂的“SEO黑產(chǎn)”：批量購(gòu)買外鏈，刷域名權(quán)重，利用內(nèi)容農(nóng)場(chǎng)批量生產(chǎn)垃圾文章，占據(jù)搜索前排。

我有個(gè)朋友推廣自己的業(yè)務(wù)用的就是這個(gè)法子，我都記得他當(dāng)年告訴我，一篇文章50元買回來(lái)然后全網(wǎng)自動(dòng)分發(fā)，一次買1000篇各種講這個(gè)產(chǎn)品的，確保你在任何平臺(tái)，都能看到。

他告訴我，有一種大家都知道、曾經(jīng)大火過(guò)一段時(shí)間的飲料采用的就是這個(gè)打法，當(dāng)然他們花錢更狂野，能保證每個(gè)人都看到他們產(chǎn)品的各種軟文。

谷歌、百度更新了無(wú)數(shù)次算法，這個(gè)產(chǎn)業(yè)從沒(méi)消失，只是換了馬甲，換了平臺(tái)。今天又換了，從搜索引擎換成了AI。

你非要說(shuō)有“變化”，那么“變化”只有一個(gè)：成本更低了。

SEO需要時(shí)間積累權(quán)重，需要大量外鏈，周期長(zhǎng)，門檻高。而GEO的攻擊成本斷崖式下降，十幾篇文章，幾百萬(wàn)預(yù)算，就能擠進(jìn)AI推薦前排，周期以天計(jì)。AI廠商要識(shí)別軟文、過(guò)濾噪聲、更新算法，成本遠(yuǎn)高于發(fā)稿成本。進(jìn)攻方每降一次成本，防守方就要多花一倍力氣。

02

我們歇歇，再講另一件事。

前幾天刷到個(gè)文章講短視頻，說(shuō)作者的丈母娘每天坐在沙發(fā)上刷短視頻，然后根據(jù)推薦買三無(wú)食品，體重飆到170斤。他老婆每周回去把東西搜出來(lái)扔掉，兩個(gè)人激烈爭(zhēng)吵，誰(shuí)都不妥協(xié)。老人嗅覺(jué)退化，聞不出腐臭，但精準(zhǔn)地知道怎么在直播間下單，知道去看哪個(gè)主播。

這不是個(gè)例。

截至2025年底，全國(guó)短視頻用戶突破10.74億，人均每天刷短視頻約2.6小時(shí)，每天醒著的時(shí)間里超過(guò)十分之一交給了算法。美國(guó)人平均每天拿起手機(jī)205次，相當(dāng)于每7分鐘查看一次。

牛津大學(xué)出版社把“Brain Rot”（腦腐），評(píng)為2024年度詞匯：過(guò)度消費(fèi)瑣碎內(nèi)容導(dǎo)致的精神與智力狀態(tài)惡化。浙江大學(xué)的一份研究也顯示，在國(guó)內(nèi)某頭部短視頻平臺(tái)中，約有45.8%的用戶存在輕中度上癮，5.9%嚴(yán)重上癮。

老登，中登，小登，沒(méi)有例外。

那個(gè)文章的結(jié)論是：這場(chǎng)戰(zhàn)爭(zhēng)個(gè)人打不贏，要請(qǐng)公權(quán)力介入，要賦權(quán)利維坦，要立法，要像澳大利亞那樣禁止未成年人用手機(jī)。

我不以為然，人類在漫長(zhǎng)的進(jìn)化過(guò)程中，什么時(shí)候沒(méi)有各種天災(zāi)？

洪水來(lái)了沒(méi)有堤壩，猛獸來(lái)了沒(méi)有槍，疫病來(lái)了沒(méi)有藥，食物匱乏的冬天，能活下來(lái)的：是反應(yīng)快的，是能克制沖動(dòng)的，是能延遲滿足的。篩選機(jī)制雖然殘酷，但有效。

現(xiàn)代文明把這些威脅基本消除了。疫苗、抗生素、糧食生產(chǎn)、社會(huì)保障，原本會(huì)被淘汰的人活下來(lái)了，也留下了后代。人道主義的勝利，客觀上也讓篩選機(jī)制的壓力消失了。

然后，手機(jī)來(lái)了，短視頻來(lái)了，SEO來(lái)了，現(xiàn)在，GEO也來(lái)了。

注意力被算法吃掉，時(shí)間被直播間榨干，判斷力被軟文稀釋。被篩掉的不再是“尸骨”，是那個(gè)還知道自己想要什么的自己。這套機(jī)制不是某個(gè)壞人設(shè)計(jì)的，是系統(tǒng)自發(fā)生成的。

03

出現(xiàn)AI“投毒”事件之后，輿論的第一反應(yīng)不出意料的是：該管管了。

澳大利亞已經(jīng)立法，禁止16歲以下未成年人使用社交媒體。國(guó)內(nèi)也有類似聲音：管AI推薦，管算法，管GEO。

有用嗎？除了扭曲市場(chǎng)外，我看不到有啥用。

2019年，印度封禁了TikTok。封禁之后，印度本土短視頻平臺(tái)Josh、Moj迅速填補(bǔ)空缺，用戶數(shù)量在半年內(nèi)恢復(fù)到封禁前水平。2020年，美國(guó)試圖封禁TikTok，最終未能執(zhí)行，TikTok用戶數(shù)量反而在爭(zhēng)議期間逆勢(shì)增長(zhǎng)。

平臺(tái)可以封，產(chǎn)業(yè)鏈封不住。GEO的核心不是某款軟件，是“批量生產(chǎn)內(nèi)容、定向投喂算法”這個(gè)邏輯。力擎GEO被關(guān)了，下個(gè)月另一家開起來(lái)，換個(gè)名字，換個(gè)工具，邏輯沒(méi)變。

就算利維坦強(qiáng)力介入，成本能不能支撐？管控的邊界在哪兒？今天管AI推薦，明天管什么，從來(lái)沒(méi)有一個(gè)明確的答案。

所以，信息噪聲就是這個(gè)時(shí)代的“天災(zāi)”。

互聯(lián)網(wǎng)剛普及那幾年，假新聞、電信詐騙、標(biāo)題黨橫行。后來(lái)大多數(shù)人學(xué)會(huì)了一套本能：看到“震驚體/嚇尿體”先停一停，看到全網(wǎng)一邊倒的聲音先存疑，重要的事交叉驗(yàn)證。沒(méi)有人教，是摔跟頭摔出來(lái)的。

GEO是這套篩選機(jī)制的新考驗(yàn)。被十幾篇軟文“投毒”的AI帶走判斷的人，和被直播間帶走三萬(wàn)塊的丈母娘，是同一個(gè)處境。

用AI查資料，自己再驗(yàn)證一遍?？吹饺W(wǎng)一片叫好，先停一秒。把AI當(dāng)一個(gè)聰明但經(jīng)常胡說(shuō)八道的朋友，可以聽它的意見，但別把它的話當(dāng)圣旨。要知道，AI會(huì)經(jīng)常產(chǎn)生幻覺(jué)，經(jīng)常胡言亂語(yǔ)。

說(shuō)“投毒”就夸張了，因?yàn)檫@口信息井幾乎從來(lái)就沒(méi)怎么干凈過(guò)，估計(jì)以后也不會(huì)太干凈。這個(gè)世界上，不存在一口絕對(duì)干凈的井。所以每次喝水之前，自己過(guò)一遍腦子，是不是該把這水煮沸了再喝？

*本文為冰川思想庫(kù)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載，否則追究相關(guān)法律責(zé)任