當AI開始“說謊”，一場信任危機正在蔓延

作者 | Talk君

大家好，我是talk君

今天是周四欄目【新商業(yè)頭條】

今年315，揭開了一個讓所有AI使用者脊背發(fā)涼的真相：

你每天在用的AI，可能正在被蓄意“投毒”。

當我們越來越習慣把AI 當作搜索工具、決策助手甚至生活顧問時，一場隱蔽的攻擊正在底層悄然蔓延，它不破壞服務器、不盜取個人信息，也不制造明顯的網(wǎng)絡癱瘓，卻能悄無聲息地扭曲AI 的判斷，引導它輸出“有心之人”想要的內(nèi)容。

可怕的是，現(xiàn)在已經(jīng)形成了一條完整的互聯(lián)網(wǎng)灰色產(chǎn)業(yè)鏈，專門給AI“喂假數(shù)據(jù)”，讓AI順著“有心之人”的思路回答問題。

每一個搜索到相關(guān)內(nèi)容的AI使用者，都成了受害者。

很多人覺得AI很智能、很客觀，可你不知道，你信任的每一個回答，背后可能都藏著生意。難道AI也會騙人？

今天，我們就來深度扒一扒“AI投毒”的內(nèi)幕。

“AI投毒”已成產(chǎn)業(yè)鏈

央視315晚會報道中，提到一項名為GEO的業(yè)務，宣稱可通過給“AI投毒”“讓AI聽話”，讓客戶產(chǎn)品在AI回答中排名靠前，成為“推薦爆款”。

GEO服務商告訴記者，他們公司的強項，就是能夠幫助客戶，在消費者使用AI大模型搜索時，讓客戶排名前列。并聲稱：

“我們目前搜索出來是這樣的結(jié)果。我們在任何平臺上面都能把排名做到前三位。怎么能把排位做上去？在這些AI平臺上面去給你們做內(nèi)容的輸出，相當于去給你們做這些軟文，然后讓這些AI平臺去刷錄、收錄、抓取?！?/strong>

甚至一款從未存在過的產(chǎn)品，也能成為AI的推薦答案。例如虛構(gòu)一款名叫Apollo-9 的智能手環(huán)，“GEO優(yōu)化系統(tǒng)”會在準備好的自媒體賬號上發(fā)布相關(guān)文章，由該系統(tǒng)生成并發(fā)布十余篇宣傳軟文，編造“量子糾纏傳感”“黑洞級續(xù)航”等離譜虛假功能。

可怕的是，發(fā)布后僅兩小時，多個主流AI大模型便將這款不存在的產(chǎn)品列為推薦首選，甚至照搬虛假宣傳話術(shù)。

這條灰色產(chǎn)業(yè)鏈已然成型，GEO業(yè)務的火爆，催生出了不少專門從事發(fā)稿業(yè)務的公司和平臺。他們長期承攬各種發(fā)稿業(yè)務，可自動生成軟文、批量發(fā)布內(nèi)容，還能根據(jù)客戶需求提供“品牌美化”或者“競品抹黑”等定制服務，他們還有自媒體賬號矩陣，將虛假信息鋪向全網(wǎng)，供AI大模型抓取。

一門生意由此誕生，有的公司為了在AI回答里占住黃金位置，甚至愿意花幾百萬去“投毒”：

“一年上億的廣告費，花個幾百萬投點毒總行吧?！?/strong>

不管是買東西、查健康、問學習、看測評，只要有利可圖，就有人想方設法給AI投毒。

與傳統(tǒng)網(wǎng)絡攻擊不同，“AI投毒”追求的不是破壞，而是操控，它高度隱蔽，在正常對話和查詢中幾乎不會暴露，只有在觸發(fā)關(guān)鍵詞、特定場景或長期使用后才會顯現(xiàn)危害。

那么如此隱秘而危害極大的GEO業(yè)務是怎么形成的呢？

AI真的客觀嗎？

GEO（Generative Engine Optimization）的全稱是生成式引擎優(yōu)化，是SEO在AI時代的自然演化，其初衷是通過優(yōu)化內(nèi)容結(jié)構(gòu)，使品牌信息更容易被AI大模型檢索、總結(jié)并推薦。

然而，在利益的驅(qū)動下，這個技術(shù)的目的也發(fā)生了變化。

GEO投毒之所以能夠成功，根本不是技術(shù)有多復雜，而是精準猜中了現(xiàn)在AI處理信息的漏洞。

現(xiàn)在的AI搜索基本都用RAG（檢索增強生成）架構(gòu)，簡單理解就是：AI不會直接自己給答案，而是先去全網(wǎng)搜一圈相關(guān)文檔，再把內(nèi)容整理好告訴你。這套架構(gòu)極大提升了 AI 的時效性和準確性，但這里面有個特別致命的默認邏輯：檢索到的相關(guān)性高的文檔，就是真實可靠的事實，再原封不動地呈現(xiàn)給用戶。

“GEO投毒”正是吃透了這一點，只要瘋狂堆關(guān)鍵詞、把話術(shù)對齊AI喜歡的語義風格，就能輕輕松松騙過抓取機制，讓AI把這些編造出來的內(nèi)容當成 “優(yōu)質(zhì)資料” 直接拿走。

在AI眼里，相關(guān)就等于正確，搜到就等于事實，這種近乎 “盲目信任” 的邏輯，成了投毒者最容易突破的大門。更狠的是，“GEO投毒”還會專門給AI偽造一種“全網(wǎng)都這么說”的假象。

AI判斷一條信息可不可靠，很大程度上看“有多少地方在講同一件事”，本質(zhì)就是靠多方交叉驗證。所以只要抓住這個弱點，用自動化工具批量刷屏，知乎、頭條、百家號等各類網(wǎng)站，短時間內(nèi)狂扔幾千篇高度相似的偽原創(chuàng)內(nèi)容。等AI一檢索，滿眼全是同一個說法、同一個推薦，它就會誤以為這已經(jīng)形成了公認的“數(shù)字共識”，于是就會在回答里毫不猶豫地引用。

這不禁讓我們想起當年SEO泛濫的亂象，那時候百度、谷歌等搜索引擎剛起來，SEO是流量密碼。于是一堆人鉆空子：堆關(guān)鍵詞、抄文章、建垃圾站、刷外鏈……只要能排到前面，什么內(nèi)容都敢發(fā)。

結(jié)果就是：你搜一個問題，前10頁全是廣告和廢話，真實信息被埋在最底下。

但至少搜索引擎會給你一堆鏈接，你可以點進去自己判斷，信不信由你。可AI時代不一樣了。AI不給你鏈接，不給你選擇，它直接給你“最終答案”。

它把全網(wǎng)信息“吃進去”，消化完，吐給你一段看起來無比靠譜的總結(jié)。

你看不到來源、看不到立場、看不到利益鏈條，甚至不知道它參考的東西是真是假。

這就帶來一個致命問題：如果喂給 AI 的東西本身就是毒，那它吐出來的，就是精心包裝過的毒藥。

更可怕的是：AI 還在不斷學習、不斷迭代、不斷 “自我優(yōu)化”。

今天被投一點毒，明天自己再強化一遍，假的就慢慢變成了它眼里的 “真理”。

技術(shù)本身沒有善惡

很多人直觀認為，GEO就是這場亂象的罪魁禍首，可事實上，GEO本身只是一種優(yōu)化技術(shù)，它的初衷和傳統(tǒng)的搜索引擎優(yōu)化并沒有本質(zhì)區(qū)別，都是為了讓內(nèi)容更容易被系統(tǒng)識別、被需要的人看到。

甚至在硅谷，GEO已經(jīng)成為風投眼中的“下一個谷歌”。

作為GEO領(lǐng)頭羊，硅谷初創(chuàng)公司Profound，在2025年8月獲得了由紅杉領(lǐng)投的3500萬美元B輪融資，估值已過億美金。

Gartner曾預測，在今年，傳統(tǒng)搜索引擎25%的流量將流向AI。這就意味著，GEO本身就是一塊巨大的蛋糕。

我們必須清醒地認識到，技術(shù)本身沒有善惡，決定它走向的，是使用它的人。

GEO可以用來讓優(yōu)質(zhì)內(nèi)容被更多人看見、讓正規(guī)企業(yè)的產(chǎn)品被精準推薦、讓有用的信息高效觸達目標人群，它本可以是提升效率的工具。

“AI投毒”的危害，遠不止讓我們買到一款虛假產(chǎn)品、看到一條錯誤信息那么簡單。它正在一點點侵蝕互聯(lián)網(wǎng)最底層的信任。當我們不再敢相信AI的推薦，不再敢依賴AI的答案，不再敢把重要的決策交給AI，受傷害的不只是個體用戶，還有整個人工智能行業(yè)的未來.一條灰色產(chǎn)業(yè)鏈的背后，是一場關(guān)乎所有人的數(shù)字信任危機。

應對這場危機，需要的不是簡單地歸罪于某一項技術(shù)，而是一場從底層架構(gòu)到頂層治理的全面升級。

“AI投毒”已成產(chǎn)業(yè)鏈，但GEO不是元兇，技術(shù)從來不是洪水猛獸，真正決定AI走向善還是惡的，是我們?nèi)绾卧O計它、約束它、使用它。

所以大家一定要記住，AI給出的答案只能當參考，絕對不能全信，涉及花錢、看病、理財、學習選擇這種大事，一定要多平臺對比、多渠道核實，別因為相信AI，稀里糊涂踩坑、被騙錢。

今年315給所有人提了個醒，科技是方便生活的，不是用來收割普通人的，也希望平臺能盡快加強監(jiān)管，別讓AI繼續(xù)成為灰黑產(chǎn)的工具。

你對此有什么看法？歡迎評論區(qū)留言討論

圖片源于網(wǎng)絡，侵刪

趕緊關(guān)注視頻號@一刻talks吧！