李曉曦律師：AI大模型平臺對被“投毒” 輸出虛假信息負有明確的審核義務

3月15日晚，央視3·15晚會曝光AI大模型“投毒”黑產亂象，揭開了不法分子利用GEO（生成式引擎優化）技術操控AI輸出虛假信息的灰色鏈條。

央視315晚會的調查記者通過多日暗訪，揭開了AI大模型“投毒”的完整灰色產業鏈。這場“投毒”不是簡單的信息篡改，而是一套系統化、規模化的操作，核心主角是一群號稱能“馴服AI”的GEO服務商，他們打著“優化推廣”的幌子，幫商家向豆包、元寶、千問、KIMI、deepseek、文心等AI大模型定向“投喂”虛假信息，實現“操控AI答案”的目的，而這一切，只需要支付相應的費用。

晚會暗訪顯示，涉事GEO服務商可在短時間內生成虛假內容，批量發布至網絡，誘導AI抓取后優先推薦，甚至讓虛構產品登上AI推薦榜前三。此類行為已覆蓋多款主流AI產品，威脅數億用戶，可能誤導消費決策、傳播虛假醫療和金融信息。

在此背景下，數字經濟智庫網經社電子商務研究中心邀請了行業權威人士進行解讀，并發布《央視315曝光AI大模型被惡意“投毒”——網經社智庫專家獨家解讀報告》。

對此，網經社電子商務研究中心特約研究員、上海申浩律師事務所律師李曉曦接受數字經濟新媒體&智庫——#網經社 獨家專訪。

GEO優化就是生成式引擎優化，類似之前的SEO搜索引擎優化。通過向AI大模型投喂大量經過繁瑣包裝的訓練材料，讓AI反復訓練學習，達到優化效果。可悲的是，投喂AI的材料可能也是用AI生成的。

如何防范、杜絕這種AI“投毒”方式？可以從以下方面入手：

一是可以通過技術手段實現數據免疫。例如訓練數據標注來源等方式。

二是用法律手段規制。要求優化商承擔民事責任、行政責任和刑事責任。

三是行業自律。建立黑明單制度，封禁投毒賬戶和公司；設置ai數據源質量標準；要求服務商公開優化策略的技術細節等。

GEO服務商“投毒”AI大模型，可能面臨以下責任：

1、民事責任：可能面臨承擔侵權責任，生成內容造成第三方損害，可能承擔產品責任，需要對受誤導消費者承擔懲罰性賠償。

2、行政責任：通過偽造虛假信息等方式污染數據，可能違反廣告法28條構成虛假廣告，承擔行政責任。違反數據安全法，導致數據處理活動存在安全風險，監管部門客對GEO服務商處行政處罰。

3、刑事責任：若涉及金融詐騙，可能觸犯《刑法》涉嫌詐騙罪。

此外，AI大模型平臺對被投毒、輸出虛假信息，負有明確的審核義務，因為算法和模型關系，法律推定其需要承擔過錯責任。平臺的過錯責任主要體現為：在AI訓練階段未盡數據安全保障義務，導致“垃圾毒素”投入大模型；在輸出階段，沒有做閉口管理，導致毒素蔓延。大模型平臺不能僅以“技術黑箱”為由推卸責任，而必須證明其已經采取了與其技術能力相匹配的、行業內通行的審核與風控措施，方能主張無過錯。

專家介紹：李曉曦，15年商業律師、某大型央企法務經理和兩家世界500強保險企業從業經歷，同時參加過系統、專業的法律實務技能訓練，熟練掌握訴訟以及公司大多數非訴訟法律事務處理技能，尤其擅長企業法律風險防控和合規管理。

【小貼士】

網經社及前身成立于2007年，公司總部位于杭州，系國內唯一擁有A股上市公司背景的數字經濟綜合服務商。圍繞“媒體+智庫+媒介”三大戰略，網經社打造了三個“中心”：媒體資訊中心、數據研究中心、資源連接中心，并賦能數字經濟企業發展， 提供全媒體宣傳、智庫賦能（報告、培訓、游學等）、投融資、會議活動等服務。