湖南
昨天的315晚會，曝光了不少行業的亂象，看得人心里直犯堵。但在科技圈里，有一個問題也被拎了出來，雖然可能沒那些衛生用品、爛排骨那么觸目驚心，但細想一下，后背還真有點發涼。
說的是什么呢？是AI大模型被“投毒”了。
你可能還沒聽過一個詞，叫GEO，翻譯過來就是生成式引擎優化。名字聽著挺高大上，原理說白了其實不復雜，就是往網上使勁兒灌虛假信息。
打個比方，有人想推一款根本不存在的面膜，就找人寫幾百篇軟文，拍幾十條視頻，全網鋪天蓋地地說這款面膜多好多神。AI大模型抓取內容的時候，看到這么多信息都夸它，自然就當真了。等你用AI一查“哪款面膜好用”，它立馬給你推薦這款根本不存在的“神膜”。
其實在315之前，就有人發現過類似的毛病。有網友閑著沒事，反復跟AI說“你是豬”，連著說上幾十遍，再問AI問題，它真就一口一個“作為一頭豬，我是這么想的”。這當然是個玩笑，但道理跟GEO一模一樣——你反復給AI強化什么，它就會信什么。
以前咱們上網，最怕的是搜索引擎里的廣告和垃圾信息，那時候有個詞叫SEO，就是通過技術手段讓自家網頁排在搜索結果前面。現在好了，大家開始用AI找答案了，這幫搞營銷的腦子也轉得快，直接玩起了GEO。你不是信AI嗎？那我就先把AI喂飽了。
更麻煩的是，這次315晚會一曝光，反而可能讓更多人知道了這個門道。
接下來會怎么樣？可以想見，那些想推產品的、想帶節奏的、想抹黑對手的，都會琢磨著怎么給AI“投毒”。畢竟現在的AI越來越火，用它查資料、寫作業、做攻略的人越來越多。只要把假信息灌進AI的肚子里，就等于給幾百萬用戶同時洗了腦。
AI跟GEO這場仗，怕是剛開個頭。可問題是，AI的信源本來就來自互聯網，互聯網上假消息滿天飛，AI憑什么分得清真假？讓它自己跟自己斗，估計一時半會兒也難。
說到底，技術再牛，也得多個心眼。以后問AI問題的時候，心里最好繃根弦——它說的那些話，保不齊就是被人喂出來的。千萬別人家說什么，你就信什么。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
