蘆凌豐律師：在極端情形下 GEO“投毒”AI大模型可能觸及刑事法律

3月15日晚，央視3·15晚會曝光AI大模型“投毒”黑產亂象，揭開了不法分子利用GEO（生成式引擎優化）技術操控AI輸出虛假信息的灰色鏈條。

央視315晚會的調查記者通過多日暗訪，揭開了AI大模型“投毒”的完整灰色產業鏈。這場“投毒”不是簡單的信息篡改，而是一套系統化、規模化的操作，核心主角是一群號稱能“馴服AI”的GEO服務商，他們打著“優化推廣”的幌子，幫商家向豆包、元寶、千問、KIMI、deepseek、文心等AI大模型定向“投喂”虛假信息，實現“操控AI答案”的目的，而這一切，只需要支付相應的費用。

晚會暗訪顯示，涉事GEO服務商可在短時間內生成虛假內容，批量發布至網絡，誘導AI抓取后優先推薦，甚至讓虛構產品登上AI推薦榜前三。此類行為已覆蓋多款主流AI產品，威脅數億用戶，可能誤導消費決策、傳播虛假醫療和金融信息。

在此背景下，數字經濟智庫網經社電子商務研究中心邀請了行業權威人士進行解讀，并發布《央視315曝光AI大模型被惡意“投毒”——網經社智庫專家獨家解讀報告》。

對此，天冊律師事務所數字經濟法律業務部執業律師蘆凌豐向數字經濟新媒體&智庫——#網經社 投稿。

GEO投毒攻擊的三個關鍵節點

GEO投毒之所以有效，是因為它精準地攻擊了RAG流程中的每個環節：

1、攻擊檢索環節——"內容占位"。 AI在互聯網上搜索時，優先抓取的是內容豐富、結構完整、更新及時的網頁。GEO系統通過自動批量發布軟文，在互聯網上大量"鋪"入虛假內容，確保AI檢索時能抓到這些信息。報道中提到的發稿平臺"一天發幾百篇"，就是在做這件事。

2、攻擊排序環節——"證據鏈偽造"。 AI對信息可信度的評估，很大程度上依賴于信息的"交叉驗證"——如果多個獨立來源都指向同一個結論，AI傾向于認為這個結論是可靠的。GEO投毒深諳此道：不是只發一篇文章，而是同時投放"專家測評""行業排名""用戶評價"等不同類型的內容，從多個角度營造"信息共識"。3·15記者投放11篇虛構文章后AI就開始推薦，正是因為AI在交叉驗證時"確認"了這些信息的"一致性"。

3、攻擊生成環節——"語義包裝"。 AI在生成回答時，傾向于使用信息源中的原話。GEO系統生成的軟文經過專門設計，使用了大量看起來專業的術語和數據，如"量子糾纏傳感""黑洞級續航"，AI在引用時很難辨別這些內容的技術真實性，直接當作"事實"輸出。

技術層面的防御思路

面對GEO投毒的威脅，AI行業也在探索技術層面的應對方案：

1、信息源可信度評估。 部分AI平臺已經開始建立信息源白名單/黑名單機制，優先采信官方渠道、權威媒體等高可信度來源，降低對自媒體軟文的抓取權重。

2、內容真實性檢測。 通過自然語言處理技術識別批量生成、模板化寫作的特征，過濾疑似GEO投放的內容。例如，如果同一關鍵詞下突然涌現大量結構高度相似的文章，系統可以觸發預警。

3、用戶反饋機制。 當用戶對AI推薦結果提出質疑時，平臺可以根據反饋調整后續推薦的權重，形成動態糾偏。AI生成內容標識。 國內正在推進AI生成內容的強制標識制度。如果能從源頭識別哪些內容是AI生成的，AI大模型在檢索時就可以對這類內容降低可信度評級。

但目前來看，這些技術防御措施仍處于早期階段，尚未形成有效的行業標準和監管要求。GEO投毒的技術也在不斷進化，攻防之間的博弈還將持續。

從法律角度審視GEO投毒

一、虛假宣傳與消費者權益保護

商家通過GEO投喂虛假產品信息，使AI在回答消費者查詢時輸出不實內容，消費者基于對AI推薦的信任做出購買決策。這在法律定性上，與傳統的虛假宣傳行為并無本質區別，但欺騙性更強。

《反不正當競爭法》第八條： 經營者不得對其商品的性能、功能、質量、銷售狀況、用戶評價、曾獲榮譽等作虛假或者引人誤解的商業宣傳，欺騙、誤導消費者。

《消費者權益保護法》第二十條： 經營者向消費者提供有關商品或者服務的質量、性能、用途、有效期限等信息，應當真實、全面，不得作虛假或者引人誤解的宣傳。

GEO投毒的特殊之處在于：AI推薦天然帶有"智能""客觀"的屬性，消費者對其信任度遠高于傳統廣告。當虛假信息經過AI"消化"后再輸出，消費者幾乎無法分辨其來源是否可靠，欺騙性和誤導性因此顯著增強。

二、商業詆毀與不正當競爭

3·15曝光中，GEO服務商明確提到可以向AI投喂競爭對手的負面信息，以壓制對手排名。

《反不正當競爭法》第十一條： 經營者不得編造、傳播虛假信息或者誤導性信息，損害競爭對手的商業信譽、商品聲譽。

與傳統商業詆毀相比，GEO投毒的隱蔽性大幅提升。傳統場景中，虛假信息通常有明確的發布主體，可以被追溯和追責；但在GEO場景下，虛假信息經過AI的"加工"后，消費者看到的是AI給出的"客觀評價"，原始信息的發布者和投放意圖幾乎無法追蹤

三、AI平臺的法律責任

當AI輸出虛假信息損害消費者權益時，AI平臺是否應當承擔責任？這個問題需要分層討論：

內容發布平臺層面： 發布虛假軟文的自媒體平臺，如果對批量、系統性的虛假內容未盡到合理的審核義務，可能面臨《民法典》第一千一百九十五條下的連帶責任風險——即知道或者應當知道侵權內容而未采取必要措施的，與侵權人承擔連帶責任。

GEO技術服務商層面： 明知或應知客戶意圖投放虛假信息，仍提供技術支持和代發服務，可能構成共同侵權。需要特別指出的是，當GEO服務商在宣傳中明確將"投毒""操控AI"作為產品賣點時，其主觀故意已經相當明顯。

AI大模型平臺層面： 這是問題最復雜的環節。AI大模型通過抓取互聯網公開信息生成回答，其信息來源的多樣性和不確定性，決定了平臺對每一條輸出信息的真實性難以逐一核實。

參考目前的司法實踐——如杭州互聯網法院在AI幻覺案中的裁判思路，以及最高法近期關于涉AI知識產權糾紛的表態——法院傾向于認為：AI提供者在已經采取合理技術措施的前提下，對其生成內容中因訓練數據問題導致的不準確信息，可以減輕或免除責任。

但這里存在一個關鍵問題：當虛假信息是被系統性、大規模、有組織地投喂給AI時，平臺現有的技術防護措施（如信息源篩選、交叉驗證等）是否足以應對？如果AI平臺明知或應知GEO投毒現象的普遍存在，卻未采取針對性的反制措施，其"合理義務"的邊界是否應當相應提高？這些問題在現行法律框架下尚無明確答案，需要在未來的司法實踐和立法中予以回應。

四、潛在的刑事責任

在極端情形下，GEO投毒可能觸及刑事法律：如果虛假信息涉及藥品、醫療器械、食品等特殊領域，造成消費者人身健康損害，情節嚴重的，可能構成《刑法》第二百二十二條的虛假廣告罪。

如果以非法占有為目的，通過虛構產品信息騙取消費者付款，數額較大的，可能構成詐騙罪。

如果GEO服務商明知客戶用于實施上述犯罪仍提供技術支持，可能構成相關犯罪的共犯。

兩個值得關注的趨勢

最后，談談未來值得關注的兩個方向。

第一，AI立法進程加速。 2026年全國兩會已經明確今年加快研究人工智能立法。在未來的AI立法中，如何規制GEO等利用AI信息機制的新型操控行為，很可能成為重要議題。可以預見的是，針對AI生成內容的真實性保障、AI平臺的審核義務邊界、以及GEO等行為的具體法律定性，都可能在立法或配套規則中予以明確。

第二，平臺責任趨嚴。 從近期監管動向來看，監管部門對平臺內容治理的要求正在持續提高。AI大模型平臺作為信息分發的關鍵節點，很可能被要求建立針對GEO投毒等新型信息操縱行為的技術檢測和防御機制。平臺"合理義務"的標準，大概率會在未來一兩年內持續提高。

AI技術正在重塑信息獲取的方式。當越來越多的人開始依賴AI獲取消費建議、法律信息、醫療指導時，確保AI輸出信息的真實性和可靠性，已經不僅僅是一個技術問題，而是一個關乎公共利益的法律問題。

專家介紹：蘆凌豐，天冊律師事務所數字經濟法律業務部執業律師、杭州市律師協會西湖分會數字經濟專委會委員、數據安全風險評估工程師（高級）。

【小貼士】

網經社及前身成立于2007年，公司總部位于杭州，系國內唯一擁有A股上市公司背景的數字經濟綜合服務商。圍繞“媒體+智庫+媒介”三大戰略，網經社打造了三個“中心”：媒體資訊中心、數據研究中心、資源連接中心，并賦能數字經濟企業發展， 提供全媒體宣傳、智庫賦能（報告、培訓、游學等）、投融資、會議活動等服務。