央視315晚會曝光AI大模型被“投毒”：網經社AI 法律權威專家揭曉背后真相

3月15日晚，央視315晚會曝光AI大模型“投毒”黑產亂象，揭開了不法分子利用GEO（生成式引擎優化）技術操控AI輸出虛假信息的灰色鏈條。在此背景下，數字經濟智庫網經社電子商務研究中心邀請了行業權威人士進行解讀，并發布《央視315曝光AI大模型被惡意“投毒”——網經社智庫專家獨家解讀報告》。

出品 | 網經社

撰寫 | 無痕

審稿 | 云馬

配圖 | 網經社圖庫

GEO投毒呈現新型特征 危害更突出

央視315晚會的調查記者通過多日暗訪，揭開了AI大模型“投毒”的完整灰色產業鏈。這場“投毒”不是簡單的信息篡改，而是一套系統化、規模化的操作，核心主角是一群號稱能“馴服AI”的GEO服務商，他們打著“優化推廣”的幌子，幫商家向豆包、元寶、千問、KIMI、deepseek、文心等AI大模型定向“投喂”虛假信息，實現“操控AI答案”的目的，而這一切，只需要支付相應的費用。

這些GEO服務商到底是如何給AI“投毒”的？第一步，利用GEO軟件批量生成虛假軟文。第二步，自動批量發布虛假內容，誘導AI抓取。第三步，持續“投喂”，鞏固AI記憶，實現長期操控。報道稱，AI大模型的算法每周都會更新，要想讓AI持續推薦客戶的產品，就必須持續、大量地投喂相關內容。“AI需要多方信息交叉驗證，只要我們投喂的虛假內容數量足夠多、角度足夠豐富，AI就會認為這些信息是真實的，進而把客戶的產品放在推薦前列。”一位GEO服務商章總這樣說道。

更可怕的是，這種“投毒”行為不僅限于虛假宣傳，還能用于惡意抹黑競爭對手。值得注意的是，AI大模型“投毒”并非個例，而是已經形成了一套完整的灰色產業鏈：從GEO軟件開發、虛假內容生成，到批量發稿、AI信息抓取，再到排名優化、惡意抹黑，每個環節都有專門的機構參與，且收費明碼標價，最低幾千元就能實現“操控AI推薦”，最高則可達上百萬元，針對不同行業、不同需求，有不同的“投毒”套餐。

對此，資深人工智能專家、浙江省數智技術與服務聯合會會長、網經社電子商務研究中心特約研究員鄭吉昌認為，這次315曝光的GEO投毒，有其新特點。以往的投毒更多是針對模型訓練階段，而這次是針對模型的檢索增強環節。現在很多AI大模型為了提升回答的時效性和準確性，會聯網搜索信息，GEO投毒就是利用了這一點，通過在互聯網上批量發布虛假信息，讓AI在搜索時優先抓取這些內容，從而輸出錯誤答案。這種投毒方式成本更低、傳播范圍更廣、影響更直接。

資深人工智能專家、網經社電子商務研究中心特約研究員郭濤也表示，315晚會曝光的AI投毒案例，屬于一種新型的污染、毒害AI的手段。傳統的AI投毒多是在訓練數據中植入惡意數據，如定向后門投毒或非定向污染投毒。而此次案例是利用GEO（生成式引擎優化）技術，通過在互聯網上系統性、定向投放大量虛假信息，讓AI大模型將其捕獲并作為答案輸出，本質是對AI信息生態的污染，是一種新的認知操縱方式。

對于如何防范，鄭吉昌認為有三方面：

第一，技術層面的應對措施。包括加強數據審核、優化算法模型、建立數據溯源機制。

第二，法律層面的監管。包括完善法律法規以及加強執法力度。

第三，行業層面的自律。包括建立統一的行業標準規范企業的行為以及AI企業加強自律，自覺遵守法律法規和行業標準。

郭濤認為，主要從以下方面防范：

1、開發者與服務提供者嚴格管控訓練數據來源，建立數據清洗與脫敏機制，在訓練過程中部署異常檢測機制，上線前進行安全對抗測試，建立常態化的模型運營監控。

2、開源社區構建開源生態安全屏障，建立數據集、模型權重的安全審核與備案機制，普及AI安全知識。

3、普通用戶提升安全意識，選擇正規平臺，不傳播虛假信息，發現異常及時反饋舉報。

GEO“投毒”觸碰多重法律紅線 平臺需承擔明確審核責任

天冊律師事務所數字經濟法律業務部執業律師蘆凌豐認為，GEO“投毒”存在以下法律風險：

1、虛假宣傳與消費者權益保護。商家通過GEO投喂虛假產品信息，使AI在回答消費者查詢時輸出不實內容，消費者基于對AI推薦的信任做出購買決策。這在法律定性上，與傳統的虛假宣傳行為并無本質區別，但欺騙性更強。

2、商業詆毀與不正當競爭。315曝光中，GEO服務商明確提到可以向AI投喂競爭對手的負面信息，以壓制對手排名。《反不正當競爭法》第十一條指出： 經營者不得編造、傳播虛假信息或者誤導性信息，損害競爭對手的商業信譽、商品聲譽。

3、潛在的刑事責任。在極端情形下，GEO投毒可能觸及刑事法律：如果虛假信息涉及藥品、醫療器械、食品等特殊領域，造成消費者人身健康損害，情節嚴重的，可能構成《刑法》第二百二十二條的虛假廣告罪。如果以非法占有為目的，通過虛構產品信息騙取消費者付款，數額較大的，可能構成詐騙罪。如果GEO服務商明知客戶用于實施上述犯罪仍提供技術支持，可能構成相關犯罪的共犯。

資深企業法務戰略專家姜子華補充道，315曝光的GEO黑產，本質是通過虛構產品、夸大功效、捏造評測，批量制造虛假信息，誘導AI抓取、學習并輸出。從《消費者權益保護法》和《廣告法》來看，這并非簡單的事實錯誤，而是典型的虛假宣傳，直接侵害消費者知情權。當AI向消費者推薦不存在的產品時，這已不是技術層面的“幻覺”，而是具有欺詐屬性的有害內容。

平臺層面，網經社電子商務研究中心特約研究員、上海申浩律師事務所律師李曉曦認為，AI大模型平臺對被投毒、輸出虛假信息，負有明確的審核義務，因為算法和模型關系，法律推定其需要承擔過錯責任。平臺的過錯責任主要體現為：在AI訓練階段未盡數據安全保障義務，導致“垃圾毒素”投入大模型；在輸出階段，沒有做閉口管理，導致毒素蔓延。大模型平臺不能僅以“技術黑箱”為由推卸責任，而必須證明其已經采取了與其技術能力相匹配的、行業內通行的審核與風控措施，方能主張無過錯。

澤大律師事務所律師、網經社電子商務研究中心特約研究員馬愷濃也表示，如果人工智能生成合成內容已依法進行標識或生成內容平臺已進行相關“AI自動生成標識”，但AI大模型仍抓取進行分析輸出，則AI大模型平臺具有明顯審核過錯，應承擔過錯責任。

姜子華指出，法治的落腳點，終究在責任源頭。AI大模型平臺作為技術的受益者和服務提供者，享受著技術紅利帶來的流量與商業價值，就理應承擔起抵御黑產侵蝕的治理成本。過錯責任原則并非平臺的“保護傘”，而是一把動態標尺。

當AI“投毒”已成完整產業鏈，虛假信息借AI快速泛濫時，平臺必須證明自己已窮盡技術手段識別、阻斷和清理虛假信息。若平臺仍固守“僅為生成器，不保證準確性”的思維，對數據污染毫無作為，未來法院在裁決類似案件時，或將認定其“知道或應當知道污染而未治理”的過錯，作出與首例AI幻覺案截然不同的判決。

曝光倒逼AI產業規范 立法加速與平臺責任趨嚴成必然趨勢

郭濤認為，此次曝光案例對AI產業會帶來多方面影響。從短期來看，會引起公眾對AI回答真實性和可靠性的擔憂，降低用戶對AI推薦購物等功能的信任度，影響相關業務的開展。還會促使監管部門加強對AI產業的監管，企業可能需要應對更多合規審查，增加運營成本。從長期來看，將推動AI企業重視數據安全和內容真實性，加大在防范AI投毒等安全技術方面的研發投入，促進整個AI產業更加健康、規范地發展，促使行業建立更完善的信任機制和安全標準。

蘆凌豐認為，未來值得關注的兩個方向：

第一，AI立法進程加速。2026年全國兩會已經明確今年加快研究人工智能立法。在未來的AI立法中，如何規制GEO等利用AI信息機制的新型操控行為，很可能成為重要議題。可以預見的是，針對AI生成內容的真實性保障、AI平臺的審核義務邊界、以及GEO等行為的具體法律定性，都可能在立法或配套規則中予以明確。

第二，平臺責任趨嚴。從近期監管動向來看，監管部門對平臺內容治理的要求正在持續提高。AI大模型平臺作為信息分發的關鍵節點，很可能被要求建立針對GEO投毒等新型信息操縱行為的技術檢測和防御機制。平臺"合理義務"的標準，大概率會在未來一兩年內持續提高。

鄭吉昌指出，今年政府工作報告首次提出打造“智能經濟新形態”，意味著AI正在從產業的“外掛工具”升級為經濟的“內置內核”。報告中的系統部署——從智能終端、智能體的推廣，到超大規模智算集群、算電協同，再到高質量數據集的建設——勾勒出了一幅完整的產業圖景：以數據為燃料、以算力為引擎、以場景為載體，智能技術將全面重構生產方式和價值創造模式。要打造“智能經濟新形態”，從技術、法律、行業多個層面來治理“AI投毒”十分必要。

自1991年首播以來，央視3·15晚會已經走過了三十多個年頭。這張“消費者維權名片”不僅記錄了中國消費市場的變遷，更是一部生動的行業警示錄。據網經社不完全統計，三十余年來，3·15晚會共曝光了拉手網、高朋網、凡客誠品、當當網、亞馬遜、車易拍、有棵樹、智聯招聘、前程無憂、獵聘網、點淘直播、珍愛網、世紀佳緣、啄木鳥家庭維修、哈啰租電動車等數十個電商互聯網平臺，涉及人們生活的方方面面。

3月12日，網絡消費糾紛調解平臺“電訴寶”攜手數字經濟智庫網經社電子商務研究中心，發起以“聆聽消費心聲 提升消費品質”為主題的“2026第十五屆網絡消費315調查行動”，并將制作315特刊，發送近6000記者庫、國務院有關部門、市監總局、網信辦、工信部等十余個部委。

行動包括：發布10份數據報告；發起主題調查行動；發布315消費預警；開通維權綠色通道；曝光典型投訴案例；媒體快評剖析亂象；律師坐堂答疑解惑；近6000注冊記者聯動，過這八大舉措，推動網絡經濟健康發展，為重塑清朗的網絡消費環境貢獻力量。

【小貼士】

網經社及前身成立于2007年，公司總部位于杭州，系國內唯一擁有A股上市公司背景的數字經濟綜合服務商。圍繞“媒體+智庫+媒介”三大戰略，網經社打造了三個“中心”：媒體資訊中心、數據研究中心、資源連接中心，并賦能數字經濟企業發展， 提供全媒體宣傳、智庫賦能（報告、培訓、游學等）、投融資、會議活動等服務。