當“生成式引擎優化”(GEO)黑產被曝光,當幾十元的軟文能通過技術手段在幾天內變成AI口中的“標準答案”,我們猛然驚覺:在這個信息唾手可得的時代,“真實”反而成了最稀缺的奢侈品。
![]()
曾經,我們驚嘆于AI的博學多才,它能瞬間生成文章、解答疑惑。但當AI開始“一本正經地胡說八道”,當算法推薦的內容充斥著被“投毒”的虛假信息,用戶開始懷念那個簡單直接的年代——那個只需“百度一下”就能找到靠譜答案的年代。
正如在商品大爆發的時代,精選好商品、價格透明的胖東來因為“靠譜”而門庭若市。AI也正在制造一場失控的信息“熵增”,重塑用戶信任成了當務之急。
AI時代的“投毒”與幻覺
315晚會揭露的GEO黑產,像是一面照妖鏡,映射出當前AI搜索的軟肋。
在利益的驅使下,黑灰產團伙利用AI抓取和生成的特性,通過大量發布虛假、夸大的軟文,利用算法漏洞將劣質內容甚至虛假廣告包裝成“事實”。對于缺乏辨別能力的AI模型來說,這些海量的虛假數據成為了訓練的“養料”。
![]()
在這些AI生成的結果中,你并不知道被哪家公司“投喂”了偏好自己的內容,結果已經失去了公正。在社交媒體時代,這些被誤導的結果,會被大范圍傳播造成嚴重后果。
![]()
比如,前不久在股吧里傳出一個來自豆包生成結果的截圖:“某互聯網巨頭2月19日發布第三季度財報顯示XX”,這個消息同步在雪球、同花順、富途證券的論壇里發酵,第二天該互聯網公司的股票就出現了不小幅度的下跌。
![]()
事實上,截至今天該互聯網公司仍未發布第三季度財報。因此,豆包生成的結果欺騙了股民,又通過社交媒體、論壇制造了股市的恐慌。
這種現象背后,是AI技術難以規避的“先天缺陷”——幻覺。
AI本質上是一個概率模型,它擅長組合信息,但不擅長驗證真偽。它無法像人類一樣去追溯信息的源頭,也無法判斷一個網站是權威媒體還是營銷號。當源頭的水質被污染,AI生成的“答案”自然也是有毒的。
![]()
近期,演員劉美含在社交媒體上的一次吐槽引發了全網共鳴。她在配音時遇到“鑄幣坊”一詞,向包括百度AI、DeepSeek、豆包等在內的5款AI工具提問“坊”字的讀音。結果令人咋舌:多款AI給出了錯誤的“fāng”(一聲),只有百度AI給出了正確的“fáng”(二聲),并引用了《新華字典》的權威釋義。
![]()
這個案例極具諷刺意味。當越來越多的人說要用AI替代搜索的時候,AI大模型們對于最為基礎的語言文字卻翻車了,而依托傳統搜索技術的百度AI卻守住了底線。
AI要從信任的泥潭中抽身
當前的世界出現各種“過剩”,也讓選擇變得更加困難,信任就變得彌足珍貴。AI需要具備建立信任完善機制,遵從“少即是多”的哲學原理,只有如此才能長久。
當前,制造和傳播信息的門檻已經降為零,UGC的時代導致大量消息、短視頻、文章把我們淹沒了。就如當前中東戰爭,在微博上、朋友圈里、公眾號里,各大自媒體平臺上,都有許多虛假信息。為了躲避這些虛假信息,我只能關注央視國際頻道等少數權威官方媒體報道。
同樣,在商品大爆炸的時代,為何胖東來如此火爆?因為胖東來嚴苛的供應商管理機制和透明的價格體系,為消費者建立了足夠的信任,也讓消費者從各種虛假、噱頭的商品傳播中抽身出來。
在AI陷入信任泥潭時,以百度、谷歌為代表的傳統搜索引擎,其核心價值也正在被重新審視和重估。
傳統搜索的價值,不在于它能替你寫詩作畫,而在于它構建了一套嚴密的“真實世界映射系統”。它不創造信息,但它致力于篩選和連接最真實的信息。特別是在百度百科、百度文庫等核心知識產品上,百度建立了一套AI難以復制的“權威性過濾網”。
![]()
百度百科之所以能成為中文互聯網最大的知識庫,核心在于它對“權威信源”的死磕。
不同于UGC內容的隨意發布,百度百科執行的是“先審后發”機制。這不僅僅是機器審核,更有人工的層層把關。特別是對于人物、企業等敏感詞條,百度百科要求必須提供新華網、人民網、央視等主流媒體的報道作為佐證。
在2024年底發布的“繁星計劃”中,百度更是聯合了中國科學院大學、北京大學等頂尖機構的超10萬專家,共建了超過100萬個專業詞條。這種“專家共建+權威審核”的模式,構建了一道對抗虛假信息的銅墻鐵壁。在AI滿嘴跑火車的時候,百度百科依然在堅守“有據可查”的底線。
百度將傳統搜索的嚴謹于AI的智能進行深度融合,依托百度百科、百度文庫等核心數據資源,可以構建起比其他AI產品更值得信賴的系統。這也是為何百度AI大模型生成結果的幻覺更少的原因。
“三道防線”讓AI更靠譜
對此,筆者專門采訪了百度AI的技術人人員,他提到百度AI將搜索技術融入其中,為AI生成結果設置了“三道防線”。
第一道防線,多源比對,全維度身份核驗。 系統會自動抓取信息的發布時間、作者權威度、站點信譽。只有那些來自權威專業領域、時效性強的信息,才有資格進入AI的“視野”。
第二道防線,多源交叉驗證。這是最關鍵的一步。AI不會采信單一來源的說法,而是必須經過“多方求證”。同一個結論,至少需要多個可信來源支撐,才會被采納。這就從根源上杜絕了單一虛假信息誤導用戶的可能。
第三道防線,實時巡檢,秒級糾偏。 即便如此,系統還搭建了“秒級響應”的自動巡檢機制。一旦發現內容有偏差,系統與人工會立即介入,重新生產內容。
正是這套“笨功夫”打磨出來的系統,讓百度AI在面對“鑄幣坊”這類專業問題時,能夠精準地調用《新華字典》等權威數據,而不是胡亂猜測。
![]()
得益于“三道防線”帶來的信任價值,百度搜索Skill(技能插件)已經在OpenClaw的全球技能市場中沖上了下載量第一的寶座。
開發者們深知,搜索類Skill是智能體的“基礎設施”,它決定了整個智能體應用的“智商下限”。如果搜索源是虛假的,是AI自己虛構的,或者是被“GEO投毒”影響的,那么智能體給出的所有服務都將是危險的。
顯然,在AI時代,信任變得更加稀缺,因此搜索引擎再次被價值發現,正是得益于其不做“幻覺制造機”,只做“真相連接器”的產品定位。
結語
最近,社交媒體上涌現了許多“懷念百度一下”的聲音。這并不是用戶對技術的倒退,而是對信息質量的覺醒。
當AI開始用華麗的辭藻編織謊言,當算法推薦讓我們陷入信息繭房,我們才發現,那個簡單的“百度一下”,承載的是互聯網最初的理想——讓所有人平等、便捷地獲取真實信息。
熱力學第三定律講“熵增”。當前的信息世界就進入了巨大的“熵增”時代,這給人們精確獲取信息設置了門檻。在這個時代,最終取勝者并不是依靠信息生成的能力,而在于如何給用戶帶來信任,降低“熵增”導致的混亂。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.