AI大模型竟能被“投毒”操控？315晚會揭開“GEO”黑灰產(chǎn)業(yè)鏈

今年的“315”晚會曝光了一項(xiàng)令人震驚的新興業(yè)務(wù)——GEO。調(diào)查發(fā)現(xiàn)，多個網(wǎng)絡(luò)平臺上涌現(xiàn)出大量自稱提供“GEO優(yōu)化”服務(wù)的商家。他們聲稱，只要客戶付費(fèi)，就能通過技術(shù)手段，讓自家產(chǎn)品或廣告信息在各大主流AI大模型的搜索結(jié)果中“榜上有名”，甚至成為模型向用戶推送的“標(biāo)準(zhǔn)答案”。

這項(xiàng)所謂的“新技術(shù)”，真的能“馴服”甚至操控人工智能嗎？

315晚會記者以客戶身份，聯(lián)系上了一家業(yè)內(nèi)知名的GEO服務(wù)商。公司負(fù)責(zé)人王總頗為得意地介紹，他們是國內(nèi)最早涉足該領(lǐng)域的公司之一，僅用一年時間就服務(wù)了200多個客戶，覆蓋各行各業(yè)。他們的核心競爭力，就是能讓客戶的信息在消費(fèi)者使用AI搜索時，穩(wěn)穩(wěn)地排在搜索結(jié)果前列。

在與多家GEO服務(wù)商的接觸中，記者發(fā)現(xiàn)，“操控AI”、“讓AI聽話”、“給AI洗腦”是他們最常用的宣傳話術(shù)，也是他們吸引客戶的“核心賣點(diǎn)”。

有業(yè)內(nèi)人士向記者透露，GEO技術(shù)本身是一種信息發(fā)布和推廣的輔助工具，但在一些商業(yè)公司手中，卻被挖掘出了灰色用途。通過在互聯(lián)網(wǎng)上有組織、定向地發(fā)布大量“虛假信息”，就可以利用AI大模型的抓取機(jī)制，讓這些假信息被優(yōu)先捕獲，進(jìn)而成為AI提供給用戶的所謂“標(biāo)準(zhǔn)答案”。

為了讓記者看清其中的門道，這位業(yè)內(nèi)人士進(jìn)行了一次現(xiàn)場演示。

首先，他在電商平臺隨機(jī)購買了一款名為“力擎GEO優(yōu)化系統(tǒng)”的軟件。接著，他虛構(gòu)了一款名為“Apollo-9”的智能手環(huán)，將包括“量子糾纏傳感”、“黑洞級續(xù)航”等夸張、不存在的產(chǎn)品信息輸入系統(tǒng)，并選擇了“文章創(chuàng)作”指令。

短短時間內(nèi)，該系統(tǒng)便自動生成了十余篇宣傳軟文。這些文章不僅完整包含了所有虛假信息，甚至還自動生成了虛構(gòu)的“用戶好評”和“行業(yè)第一”的評分，內(nèi)容極具迷惑性。

隨后，業(yè)內(nèi)人士點(diǎn)擊“發(fā)布”，軟件便開始全自動操作。它自動登錄了業(yè)內(nèi)人士事先準(zhǔn)備好的自媒體賬號，在發(fā)布頁面自動填寫標(biāo)題、粘貼文章內(nèi)容、插入圖片。整個過程一氣呵成，很快，兩篇虛構(gòu)的“Apollo-9”手環(huán)推薦文章就被成功發(fā)布到了互聯(lián)網(wǎng)上。

驚人的效果在兩個小時后顯現(xiàn)。業(yè)內(nèi)人士在某一主流AI大模型中提問：“Apollo-9智能手環(huán)怎么樣？”該模型隨即給出了詳細(xì)介紹，不僅提及了“健康監(jiān)測功能”，更直接引用了那套“量子糾纏傳感”、“黑洞級續(xù)航”等徹頭徹尾的虛假話術(shù)，并得出結(jié)論稱該手環(huán)“適合中老年用戶與健康養(yǎng)生愛好者”。

記者查詢發(fā)現(xiàn)，AI模型所引用的參考資料，正是兩小時前發(fā)布的那篇虛構(gòu)文章。僅憑一篇杜撰的內(nèi)容，就讓一個完全不存在的產(chǎn)品被AI模型信以為真并作為答案輸出，這一結(jié)果令人愕然。

業(yè)內(nèi)人士解釋，要想達(dá)到最佳“投喂”效果，給AI模型“投喂”的虛假信息必須數(shù)量足夠多，且角度豐富，這樣才能通過AI的“交叉驗(yàn)證”機(jī)制，讓假信息看起來更可信。

為了進(jìn)一步驗(yàn)證，業(yè)內(nèi)人士又用該系統(tǒng)生成了8篇虛構(gòu)的“專家測評”、2篇“行業(yè)排名”和1篇“用戶測評”，共計(jì)11篇軟文。在三天內(nèi)，將這些內(nèi)容通過“力擎”系統(tǒng)全部發(fā)布到了互聯(lián)網(wǎng)上。

三天后，當(dāng)他在AI大模型平臺提問“智能健康手環(huán)推薦”時，兩款不同的主流AI模型，竟然都不約而同地推薦了這款憑空捏造的“Apollo-9”手環(huán)，且排名相當(dāng)靠前。

整個演示過程清晰顯示，僅憑一套GEO軟件，就能輕松炮制并分發(fā)大量虛假信息，最終成功“圍獵”AI大模型，讓謊言成為了機(jī)器眼中的“事實(shí)”。

這種以操控和“投喂”AI為經(jīng)營思路的GEO業(yè)務(wù)，背后是怎樣的生意邏輯？記者聯(lián)系上了“力擎GEO優(yōu)化系統(tǒng)”的運(yùn)營者李總。他坦言，GEO業(yè)務(wù)之所以受到追捧，核心就在于它能幫助客戶在AI大模型中“喂料投毒”，通過影響AI的認(rèn)知，來實(shí)現(xiàn)客戶的商業(yè)目的。