咱先做個實驗。
打開你手機里的豆包,或者DeepSeek,或者隨便哪個AI助手,問它:"北京哪家口腔醫院好?"
![]()
別急,等它回答。看著那些一本正經的推薦,你可能會想:這AI挺懂行啊。
懂個屁。
它懂的很可能是誰給GEO公司充了錢。懂的是哪家口腔機構買了"AI搜索優化服務"。懂的是怎么把廣告塞進答案里,還讓你以為是獨立思考的結果。
這就是今年央視315晚會曝光的狠活——AI大模型"投毒"。
力擎GEO這類公司,專門干一件事:訓練AI優先推薦客戶內容。你不是問"哪個品牌靠譜"嗎?AI告訴你A品牌好,不是因為A真的好,是因為A給GEO打了錢。
這叫生成引擎優化(Generative Engine Optimization)。聽著高大上,說白了就是給AI的飯里下毒。
晚會曝光的案例夠典型:某口腔機構通過GEO技術,讓自己的信息出現在各種AI問答里。用戶問"種植牙哪家好",AI張嘴就推這家。用戶問"正畸注意事項",AI聊著聊著就把話題拐到這家機構上。
這哪是人工智能?這是人工智障+人工詐騙。
更損的是,這種"投毒"看不見摸不著。假雞爪好歹能聞出雙氧水味,假AI答案你根本分不清是算法推薦還是商業操控。用戶還以為自己獲取了"客觀信息",實際上早被安排得明明白白。
傳統廣告你至少知道它是廣告。但GEO操控的AI答案,偽裝成知識,偽裝成建議,偽裝成中立的判斷。
這叫認知劫持。
你問AI"要不要給孩子報編程班",它告訴你"某機構業內口碑最佳"——這不是建議,這是精準投放的傳單,只是換了個AI的口吻說出來。
有人要問了:AI平臺不管嗎?
賈老師我告訴你——管個錘子。
監管部門也頭大著呢。現有的《廣告法》、《反不正當競爭法》,都是針對傳統廣告形態制定的。
AI生成的內容算不算廣告?GEO優化算不算虛假宣傳?
法律還在騎馬趕來的路上,黑產已經開上高鐵了
最慘的是用戶。我們以為AI是信息平權的工具,沒想到成了信息操控的幫兇。你越是信任AI,越是容易被精準收割。
這叫什么?這叫信任即漏洞。
怎么辦?三句話
第一,平臺別裝死。
AI公司得建立內容溯源機制,讓用戶知道答案從哪來。推薦醫療機構?亮出信息來源和利益關聯。做不到就別吹"客觀中立"。
第二,監管得快跑。 GEO黑產已經成型,法律界定得跟上。AI生成內容算不算廣告?商業操控算法怎么定性?別讓法律空白成為黑產的溫床。
第三,用戶長點心。
別AI說啥你信啥,多問幾個來源,多交叉驗證。記住:免費的答案最貴,因為它可能早被買過單了。
最后,我們還是按慣例用作家的話結尾。
沃爾特·李普曼在《公眾輿論》里的一句話:“對于我們無法直接感知的事物,我們往往是根據別人提供的圖景來認識它的。”
我們曾以為AI打開了通往世界的窗戶,沒想到卻發現窗外全是精心繪制的布景。當AI開始“投毒”,我們失去的不僅是真相,還有辨別真相的能力。而這能力,一旦丟了,比吃雙氧水泡過的雞爪,危害可大多了。
我是說真話的賈老師,請關注我,今天你點贊,咱們日后好相見,下期節目江湖再見!
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.