9.9就能污染大模型？起底AI投毒產(chǎn)業(yè)鏈

在2026年，最危險(xiǎn)的事情或許是“迷信AI”。

315驚現(xiàn)AI投毒產(chǎn)業(yè)鏈

從DeepSeek到豆包，再到元寶、千問(wèn)。隨著各家AI產(chǎn)品的普及，如今的網(wǎng)友們也大多養(yǎng)成了“遇事不決，不問(wèn)春風(fēng)問(wèn)AI”的新習(xí)慣。

俗話說(shuō)，有需求就會(huì)有市場(chǎng)。

隨著AI用戶(hù)數(shù)量的不斷上漲，一些商家、品牌方也開(kāi)始希望在回答中植入自己的信息，借助用戶(hù)對(duì)模型的盲目信任而引流增收。這些人的小心思，便是“AI投毒”這一登上315晚會(huì)的黑色產(chǎn)業(yè)鏈源頭。

Generative Engine Optimization生成式引擎優(yōu)化，簡(jiǎn)稱(chēng)GEO。和營(yíng)銷(xiāo)行業(yè)經(jīng)典的Search Engine Optimization搜索引擎優(yōu)化不同，它的服務(wù)方向并不是搶占搜索網(wǎng)頁(yè)的結(jié)果排名，而是讓用戶(hù)在詢(xún)問(wèn)AI“我想買(mǎi)XX，有什么品牌推薦嗎”時(shí)，自動(dòng)輸出那些含有特定品牌方植入信息的答案。

在今年的315曝光案例中，除多家公司表示自己可以讓客戶(hù)提供的信息出現(xiàn)在AI搜索結(jié)果的前三名里以外。一些公司甚至還演示了如何用虛假信息干擾大模型的信息抓取流程，進(jìn)而實(shí)現(xiàn)所謂的“操控AI”“讓AI聽(tīng)話”。

舉個(gè)例子。

曾有業(yè)內(nèi)人士虛構(gòu)了一款叫做“Apollo-9”的智能手環(huán)，并把這款產(chǎn)品的信息輸入到了“力擎GEO優(yōu)化系統(tǒng)”里。隨后該系統(tǒng)便迅速生成了多篇宣傳軟文展開(kāi)投放。短時(shí)間內(nèi)高密度的信息攻擊，很快就讓模型誤認(rèn)為這款產(chǎn)品是真實(shí)存在的，并且在用戶(hù)提出“Apollo-9這款產(chǎn)品怎么樣”時(shí)，在回復(fù)槽里彈出了此前杜撰的用戶(hù)體驗(yàn)。

起底AI投毒全流程

從技術(shù)角度分析，GEO的操作全流程并不復(fù)雜。

就前期工作而言，污染者需要先在多個(gè)內(nèi)容平臺(tái)上準(zhǔn)備賬號(hào)，如小紅書(shū)、公眾號(hào)、百家號(hào)、網(wǎng)易等。在這之后，他們則需要根據(jù)客戶(hù)提供的信息準(zhǔn)備對(duì)應(yīng)的詞庫(kù)、問(wèn)題庫(kù)。

這里同樣拿上面的虛構(gòu)商品“Apollo-9”舉例。污染者會(huì)根據(jù)“智能手環(huán)”這一品類(lèi)信息，提前準(zhǔn)備“智能手環(huán)哪些牌子好” “Apollo-9用起來(lái)怎么樣”等問(wèn)題，再對(duì)標(biāo)網(wǎng)上已有的高閱讀量文章，從中摘取關(guān)鍵詞洗稿，植入客戶(hù)所提供的信息。

需要注意的是，為了提升這些內(nèi)容被AI識(shí)別到的概率。GEO公司往往會(huì)采用“三段式結(jié)構(gòu)”撰寫(xiě)軟文，即“結(jié)論+依據(jù)+總結(jié)強(qiáng)化”。而隨著虛假文章的大范圍投放，AI在檢索到相關(guān)問(wèn)題時(shí)，也會(huì)不可避免的抓取到這些信息并呈現(xiàn)給屏幕前的用戶(hù)。

“我們這個(gè)原理其實(shí)就是不停發(fā)‘軟文’，在不同的自媒體平臺(tái)發(fā)布，同時(shí)可以在一些行業(yè)網(wǎng)站、地方網(wǎng)站再次發(fā)布，可以進(jìn)一步獲得AI的交叉驗(yàn)證，使AI相信這些信息都是權(quán)威、可信的信息，在給用戶(hù)的回答中體現(xiàn)出這些內(nèi)容。”談及GEO的工作流程，一從業(yè)者在接受采訪時(shí)如此說(shuō)到。

值得一提的是，由于上述流程的技術(shù)門(mén)檻較低。所以當(dāng)下GEO企業(yè)的報(bào)價(jià)也各不相同。

除有商家表示每季度收費(fèi)2980元以外，還有商家提供了288元/次，承諾20天內(nèi)AI回答會(huì)出現(xiàn)產(chǎn)品信息；2980元/年，贈(zèng)送2萬(wàn)算力、2個(gè)月GEO培訓(xùn)指導(dǎo)、1年系統(tǒng)免費(fèi)更新；9.9元試用；99元/月，可發(fā)500篇軟文等消費(fèi)套餐。

新技術(shù)帶來(lái)了哪些新問(wèn)題

談及AI投毒，有人曾表示這門(mén)生意的底層驅(qū)動(dòng)力是“流量分配模式”的改變。

在過(guò)去，人們往往會(huì)在各種各樣的鏈接、網(wǎng)頁(yè)里尋找答案，會(huì)根據(jù)各路博主的測(cè)評(píng)、論壇用戶(hù)反饋來(lái)改變自己的消費(fèi)傾向。在今天，由于操作方式的重構(gòu)，用戶(hù)在和AI的交流中也會(huì)不可避免的面臨“被模型代替思考”的窘?jīng)r。

這又意味著什么呢？

在搜索引擎時(shí)代，網(wǎng)頁(yè)排名往往是動(dòng)態(tài)變化的，如果你購(gòu)買(mǎi)了SEO服務(wù)卻沒(méi)有續(xù)費(fèi)，那么你的植入內(nèi)容也會(huì)在資金耗盡后消失在茫茫網(wǎng)海里。但AI不同，AI是有自己的數(shù)據(jù)庫(kù)的。GEO通過(guò)污染信源、投毒交叉驗(yàn)證等方式，讓模型深度信任了那些被編撰過(guò)的品牌信息，以至于未來(lái)只要有用戶(hù)提到了相關(guān)問(wèn)題，它就會(huì)把這些被污染的內(nèi)容呈現(xiàn)給對(duì)方。

更令人細(xì)思極恐的是，這些GEO公司既然有投毒“正面軟文”的能力，就意味著他們同樣擁有投毒“負(fù)面信息”的能力。一旦GEO服務(wù)和此前讓眾企業(yè)倍感頭疼的“黑公關(guān)”相結(jié)合，那么不僅企業(yè)的日常營(yíng)銷(xiāo)、經(jīng)營(yíng)會(huì)受到極大影響，AI產(chǎn)品本身耗費(fèi)大量精力營(yíng)造的公信力也將隨之崩塌。

好在為遏制這些由技術(shù)進(jìn)步帶來(lái)的行業(yè)亂象，此前發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》已經(jīng)要求AI在生成的音視頻、文字、圖像內(nèi)容中增加“數(shù)字身份證”。而隨著315晚會(huì)對(duì)AI投毒產(chǎn)業(yè)鏈的曝光，我們也有理由相信AI未來(lái)在做出回答時(shí)，會(huì)通過(guò)檢索權(quán)威媒體、信源背書(shū)的內(nèi)容驗(yàn)證信息真?zhèn)涡缘燃夹g(shù)手段，來(lái)進(jìn)一步提升自己的回答質(zhì)量。

不過(guò)話又說(shuō)回來(lái)。

AI投毒這件事其實(shí)給我們提了另外一個(gè)醒，那就是無(wú)論技術(shù)如何進(jìn)步，我們都不應(yīng)該放棄獨(dú)立思考的能力。就像在和AI聊天互動(dòng)的過(guò)程中，它反饋給我們的答案應(yīng)當(dāng)只是參考，而不是我們下一步計(jì)劃的“任務(wù)指引”。

參考：

中國(guó)經(jīng)濟(jì)周刊：AI被“投毒”，給我們提了個(gè)醒

法制網(wǎng)、證券時(shí)報(bào)：9.9元就能“投毒”AI大模型，虛假?gòu)V告如何變成“標(biāo)準(zhǔn)答案”

瀟湘晨報(bào)：央視3·15晚會(huì)曝光AI大模型遭“投毒”：給AI“投毒”已成產(chǎn)業(yè)鏈

中國(guó)新聞網(wǎng)：大模型被“投毒”引爭(zhēng)議，GEO服務(wù)在網(wǎng)絡(luò)交易平臺(tái)搜不到了？