3月15日,央視315晚會(huì)曝光一項(xiàng)名為GEO(生成引擎優(yōu)化)的黑灰產(chǎn)業(yè)務(wù)。服務(wù)商通過批量發(fā)布軟文,操控AI大模型的搜索結(jié)果,讓客戶產(chǎn)品在AI回答中排名前列,給AI投毒已成產(chǎn)業(yè)鏈。
“央視財(cái)經(jīng)”記者調(diào)查發(fā)現(xiàn),一款名為“力擎GEO優(yōu)化系統(tǒng)”的軟件可自動(dòng)生成大量產(chǎn)品軟文并發(fā)布至互聯(lián)網(wǎng)。測試中,記者虛構(gòu)一款智能手環(huán),通過該系統(tǒng)發(fā)布十余篇軟文后,在多個(gè)AI大模型搜索“智能健康手環(huán)推薦”時(shí),這款虛構(gòu)產(chǎn)品竟被推薦且排名靠前。
GEO服務(wù)商負(fù)責(zé)人王總向記者透露,其公司一年服務(wù)200余客戶,能在各大AI平臺(tái)將客戶產(chǎn)品推至前三。"相當(dāng)于做軟文,然后讓AI平臺(tái)去刷錄、抓取。"由于AI算法更新頻繁,需持續(xù)大量投喂相關(guān)軟文維持推薦排名。
力擎GEO系統(tǒng)運(yùn)營者李總直言,GEO業(yè)務(wù)本質(zhì)就是在AI大模型里"投毒"。"手機(jī)品牌就5到10個(gè)位置,一年上億廣告費(fèi),花幾百萬投點(diǎn)毒,總行吧!"他表示,操控AI的關(guān)鍵是在各大互聯(lián)網(wǎng)賬號(hào)持續(xù)發(fā)稿,目前已有專門公司承攬此類業(yè)務(wù)。
據(jù)“央視財(cái)經(jīng)”報(bào)道,GEO本是用于優(yōu)化信息分發(fā)、提升推廣效率的工具軟件,卻被一些商業(yè)公司利用來操控AI推薦。目前市場上已形成從軟件工具到發(fā)稿平臺(tái)的完整產(chǎn)業(yè)鏈,專門從事圍獵AI大模型的數(shù)據(jù)投毒業(yè)務(wù)。
![]()
![]()
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.